美国货币监理署今天发布了首个银行业人工智能监管框架，要求审查人员少关注人工智能系统的强大程度，而更多地关注人工智能系统出错时会发生什么。

OCC 的框架解决了这一问题，尽管监管机构尚未将其发行与这些具体事件联系起来。

在涉及运营弹性的部分中，该机构警告称，即使银行不控制这些系统，由客户、金融科技公司或其他企业运营的外部代理也可能给银行带来风险。

十一月黄金高点

它建议审查员考虑采取措施，包括身份验证、委派权限、交易限制、监控以及暂停或撤销访问的能力。

该指南旨在解决如何让客户使用人工智能助手来管理财务，而又不让自主软件不受限制地访问银行已经面临的账户的困境。

新的 OCC 指南发布不到两周，此前有报道称，各大银行发现未经授权的第三方人工智能代理在客户账户内运行，有时采取的行动似乎超出了用户的指令。

根据 Axios 10 月 22 日的一份报告，摩根士丹利封锁了外部代理，而摩根大通、美国银行和花旗则限制访问。银行高管称这种情况“令人恐惧”，引发了人们的疑问：一旦自主代理能够获取某人的资金，谁将控制该代理。

转移资金的人工智能比写电子邮件的风险更大

OCC 的框架区分了人工智能系统的技术复杂性和它可能造成的损害。

监管机构表示，与仅限于撰写内部文件的更高级模型相比，被授权发起金融交易的简单代理人可能会带来更大的风险。

在22页的框架下，审查员可以考虑失败的后果、是否可以逆转某个行为，以及人类对系统保留多少控制权。

该机构概述了四个说明性风险等级。完全自主的支付代理和实时信用决策系统属于最高类别，而基本的内部生产力工具则属于最低类别。

在采取后续行动之前，风险较高的系统可能需要对自主性、独立测试和人工批准进行更严格的限制。

该框架还解决了在做出有害决策的同时继续运行的人工智能系统的问题。建议的保护措施包括断路器、速率限制、限制权限和紧急关闭控制。

这些考虑因素与 Axios 早期报告中描述的外部代理尤其相关，银行很难区分合法的客户授权软件和超出其预期权限运行的系统。

指导意见，而不是新的银行规则

OCC 强调，该文件并未为银行制定新的监管要求或可执行标准。

相反，它为审查人员提供了一种在现有运营、合规性和网络安全风险类别中评估人工智能的方法。银行无需建立单独的人工智能风险类别。

该文件使用了唐纳德·特朗普政府坚持使用的强制性术语“超级智能”来代替“人工智能”，但其范围包括传统人工智能和“自主代理”，而不仅仅是具有超出人类能力的智能的假设系统。

该框架涵盖了支付、欺诈检测、客户服务和其他银行业务中使用的人工智能。它还将风险考虑扩展到通过银行渠道连接的外部人工智能代理。

OCC 表示，打算随着技术的发展更新该指南。目前，其说明性风险等级将自主支付代理置于最高风险类别，无论它们在测试中表现如何。