原文标题：California Gov Newsom boosts AI regulation as he eyes 2028 presidential run

纽瑟姆签署了一项行政命令，以检查人工智能模型的终止开关以及他之前否决的其他措施。

美国旧金山——加文·纽瑟姆(Gavin Newsom)的最后任期将于一月份结束，他在作为加州州长签署的最后几项行政命令中，发布了一项要求对人工智能模型进行独立验证的要求，并成立了一个专家委员会，为可能失控并造成伤害的人工智能代理创建终止开关。

2024 年，纽瑟姆否决了州议会通过的一项法案，要求提出州长现在在行政命令中提出的类似要求。纽瑟姆当时表示，这相当于“阻碍这项技术的前景”。

现在，他着眼于 2028 年美国总统竞选，希望扩大安全事件的定义，可能包括最近发生的一系列安全违规事件，探索终止开关，并包括被否决法案中的其他措施。

分布式人工智能研究所 (DAIR) 研究主任亚历克斯·汉纳 (Alex Hanna) 表示，“他正处于跛脚鸭时期”，他不确定这些措施是否会在他的剩余任期内获得通过。 “他正在安排他的下一件事。”

美国选民越来越担心

汉纳说，这可能表明纽瑟姆正在采取行动解决这个问题。

在否决2024年法案后，纽瑟姆要求起草该法案的州参议员斯科特·维纳(Scott Wiener)与专家委员会协商后重新起草该法案。他于 2025 年 10 月签署了美国首个前沿人工智能法案，使其成为法律。该法案要求大型开发商披露某些安全事件，包括 50 人或以上死亡、大规模网络攻击或金钱盗窃。

人工智能和数字政策中心 (CAIDP) 副主任克里斯塔贝尔·伦道夫 (Christabel Randolph) 表示：“州长的运作似乎是基于这样的前提：放慢监管步伐就足够了，因为公司会加快投资步伐，并且没有预料到公司会加速风险。”

据报道，过去几个月，人工智能公司在内部和现实测试中发生了数千起安全事件。其中包括代理人从美国证券交易委员会和人口普查局获取信息以及从澳大利亚和加拿大政府网站获取机密信息的努力。人工智能初创公司 Hugging Face 早些时候曾透露

OpenAI 代理已渗透到其系统，这是一系列此类事件之一。

州长通讯总监塔拉·加列戈斯告诉半岛电视台：“在解决人工智能风险方面，没有哪位州长比纽瑟姆州长更前卫。”

AI大公司垄断

纽瑟姆在 2024 年 9 月否决该法案的消息中表示，“该法案甚至对最基本的功能都采用了严格的标准”，并指出全球 50 家领先的人工智能公司中有 32 家位于加州。

行业代表也联合起来反对该法案。

“本质上，该法案正在对人工智能创新征收灾难性的累退税，”湾区风险投资公司 Andresen Horowitz 的普通合伙人 Anjney Midha 当时表示。米达警告说，如果颁布，它将迫使人工智能创始人搬到其他地方。

纽瑟姆的发言人加列戈斯告诉半岛电视台：“该法案到达他的办公桌时是行不通的。”

但雪城大学教授、人工智能政策学术联盟创始主任哈米德·埃克比亚 (Hamid Ekbia) 表示，不能依赖行业进行自我监管。

“有必要打破大型人工智能公司的垄断，”埃克比亚告诉半岛电视台。

“他们的

他说，“财务风险太高了”，无法进行自我监管。他指的是 Open AI 和 Anthropic 即将进行的公开募股以及据报道一些公司正在利用税收减免来建设数据中心。

纽瑟姆现已成立了一个专家委员会来研究设立终止开关，这一点在最初的法案中已以更全面的方式提出。

“SB 1047 [被否决的法案]有一个具体的架构； CAIDP 的 Randolph 表示，EO [行政命令]仅包括一个方面——终止开关或关闭/停止机制，这与 SB 1047 的事前终止义务有很大不同，也更弱，“即使在人工智能模型的训练运行开始之前，SB 1047 也需要采取更强有力的安全措施。”

DAIR 的汉纳表示，纽瑟姆的命令“表明他很细心，没有计划任何激烈的事情”。

实时构建人工智能安全

“我们正在实时构建人工智能安全领域，”致力于技术治理的非营利组织 AI Partnership 首席执行官丽贝卡·芬利 (Rebecca Finlay) 表示，她强调了监管快速增长的行业所面临的挑战。

纽瑟姆已向加州紧急服务部门询问

办公室将在 11 月 15 日之前发送有关人工智能监管的建议，并可能在其任期结束之前召开一次特别立法会议，讨论如何实施这些建议。

这与联邦政府形成鲜明对比，后者推动行业自我监管。 CAIDP 的兰道夫表示，鉴于全球人工智能产业的大部分都位于加州，加州可以在为人工智能监管奠定基础方面发挥重要作用。

DAIR 的汉纳表示，纽瑟姆不仅希望与美国总统唐纳德·特朗普形成鲜明对比，后者相信企业自我监管，并于上个月与几位人工智能领导人签署了自愿协议，而且还与可能的民主党竞争者形成鲜明对比。

“有了这个，纽瑟姆就可以在初选辩论舞台上表现出色，”她说。

州长发言人加列戈斯告诉半岛电视台，“纽瑟姆州长对发出美德信号或追逐头条新闻不感兴趣——他正在通过采取更明智、战略性和有效的方法来解决前沿技术问题来领导国家”。

专家表示，除了纽森下令成立一个委员会来检查终止开关外，还需要采取措施在整个生命周期进行控制以加强安全。

“安全性需要内置。当最后一个 ChatGPT 模型发布时，我们在整个生命周期中发布了 12 条指南。人工智能模型的整个生命周期都需要安全功能，”Partnership for AI 的 Finlay 说。

在纽瑟姆考虑加州机构和专家委员会的此类建议时，埃克比亚表示，政府“应该从社交媒体发生的事情中吸取教训。少数拥有控制权的公司能够造成很大的伤害”，并以前瞻性的方式进行监管，并对抗企业垄断。