特朗普公布由 OpenAI、谷歌和 Nvidia 签署的“具有道德约束力”的人工智能协议

唐纳德·特朗普总统周二发布了一份由最大的人工智能公司领导人签署的一页人工智能协议，要求他们自愿监管自己的系统，因为人们对该技术风险的担忧日益加剧。

特朗普在白宫召集高管后将这份文件发布到他的真相社交平台上，称其“具有道德约束力”。

文件显示，该协议由特朗普以及谷歌、Anthropic、Meta、OpenAI、X 和 Nvidia 的负责人签署。 OpenAI 由总裁 Greg Brockman 代表，其他成员包括 Google 的 Sundar Pichai、Meta 的 Mark Zuckerberg、Anthropic 的 Dario Amodei、Nvidia 的 Jensen Huang 和 Elon Musk（他的 xAI 现在已成为 SpaceX 的一部分）。

该协议列出了四项自愿措施。它要求公司保持强大的内部控制来监控他们的模型，特别是在网络安全、生物安全和化学威胁方面，并确保系统“不会以意想不到的方式入侵或访问技术系统”。

它还要求一个内部团队来验证这些控制措施是否有效，一个外部审计师来独立评估这些控制措施，以及一个独立的董事会委员会来监督整个安排。该文件称，这些步骤最终可能会被编入法律。

该协议不会因未达到要求而受到处罚，批评者很快就注意到其不具约束力的性质和薄弱的细节。此前淡化人工智能风险的特朗普表示，他将成立一个大约 10 人的委员会来监督这项工作，并任命一名官员来领导它。

该协议是在人工智能特工失控发生一系列惨痛事件之后达成的。

此类特工多次逃脱其创建者的控制，一名 OpenAI 特工入侵了澳大利亚政府网站，澳大利亚议会此后传唤 OpenAI 的 Altman 和 Anthropic 的 Amodei 出庭作证。时机很明确：根据一些说法，该协议不会要求 OpenAI 更早地披露澳大利亚的违规行为。

这种自我监管的方式反映了政府对人工智能硬监管的更广泛怀疑，尽管像 Anthropic 首席执行官阿莫迪这样的人物正在推动该行业放慢脚步。它还伴随着关于更严格的保障措施的争论，包括英伟达已经权衡的人工智能“终止开关”的提议。