原文标题:How does Trump’s White House AI accord work?

在监管呼声中,美国总统唐纳德·特朗普在白宫会见了人工智能高管,制定了一项自愿协议,称为《白宫超级智能协议》。

该协议由 Meta、Nvidia、谷歌、OpenAI、xAI 和 Anthropic 的高管于周二签署,呼吁公司在内部建立四层控制的护栏,帮助监控安全风险。

白宫协议有什么作用,没有什么作用?

该协议要求公司维持内部控制,建立内部团队来监督这些控制,与独立的外部审计师合作,并建立一个独立的董事会委员会来审查结果。

然而,该协议是自愿的,不具有法律约束力。它没有对不遵守规定的公司制定处罚措施。该协议不要求公司公开披露审计结果或赋予政府执行角色。公司还保留对如何实施保障措施的控制权。

然而,该协议确实留下了其措施最终可能成为强制性措施的可能性。它说,随着时间的推移,它可能“有意义

将这些步骤编入法律或法规”。

特朗普对记者说:“这将是一个巨大的自我监管方面。”他补充说,这具有“道德约束力”。

在白宫草坪上,特朗普与高管们一起声称人工智能公司在自我监管方面做得很好。

谷歌首席执行官桑达尔·皮查伊也在社交媒体上宣传了该协议。

“我们致力于与其他行业领导者合作,建立规范并建立公众信心。今天签署的白宫协议和边境责任联合承诺是向前迈进的坚实基础——它包含促进安全发展的真正切实步骤,同时提供这项技术的经济和科学利益,”皮查伊在 X 上的一篇帖子中表示。

为什么人工智能公司呼吁加强监管?

尽管其中一些公司呼吁政府强制执行安全标准,但该协议还是达成了。

9 月,ChatGPT 的制造商 OpenAI 首席全球事务官 Chris Lehane 呼吁国会制定强制性国家人工智能安全标准。

“行业主导的标准将补充而不是取代强制性的联邦保障措施和民主监督,”勒哈恩说

在一个帖子中。

6 月,Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁“对人工智能进行更严格、更具约束力的监管”。今年 7 月,谷歌 DeepMind 首席执行官杰米斯·哈萨比斯 (Demis Hassabis) 呼吁建立一个以美国为首的人工智能监管机构。

有报道称,这些公司的一些员工对日益复杂的人工智能系统是否受到充分监控表示担忧,因此呼吁建立护栏。

OpenAI 的两名员工警告高管,该公司新模型的测试没有得到适当的监控。据《纽约时报》报道,在模特出现意外行为的事件发生之前,这些警告并未得到执行。

立法者有何提议?

推动制定具有法律约束力的法规的是国会,而不是白宫。

本月早些时候,Anthropic 前人工智能研究员雅各布·考克森 (Jacob Coxon) 警告称,人工智能技术可能在未来十年内对人类构成生存威胁,引发了立法者的重新关注。

最全面的提案来自佛蒙特州独立参议员伯尼·桑德斯和德克萨斯州民主党众议员格雷格·卡萨尔。

两位议员提出了《禁止人工智能法案》,

如果该法案获得通过,将永久禁止超级人工智能的开发和部署,并暂时停止先进人工智能的开发,直到联邦监管机构制定安全规则。

该法案还将创建一个内阁级人工智能部门,以监控前沿人工智能系统(该术语用于描述最先进的人工智能系统),并监督危险能力,并在需要时监督对超级人工智能的破坏。

该立法将对违法行为处以严厉处罚,例如对个人最高可判处 20 年监禁。

特拉华州民主党参议员克里斯·库恩斯上周提出了一项两党法案。 Brian Schatz,来自夏威夷的民主党人;凯蒂·布里特 (Katie Britt),来自阿拉巴马州的共和党人;和来自俄克拉荷马州的共和党人詹姆斯·兰克福德。

《人工智能系统透明度法案》将要求人工智能公司披露他们收集的数据以及他们采取的措施来防止他们的系统失控或被不良行为者滥用。

“超级智能”到底意味着什么?

在特朗普推动重新命名“人工智能”之际,白宫将该协议命名为“白宫超级智能协议”

政府文件中的“情报”。

在科技行业,“超级智能”是指超越人类智力的人工智能形式。

然而,特朗普已指示行政部门在官方通讯中使用“超级智能”或“SI”来代替“人工智能”或“AI”。

周二,特朗普概述了一项新的行政命令,其中称“超级智能”是指人工智能现有法定定义涵盖的技术和系统,并指示在 60 天内创建新的联邦定义。