原文标题:California files lawsuit against OpenAI alleging lack of proper safeguards
司法部长罗布·邦塔 (Rob Bonta) 表示,抱脸攻击是“完全可以预见”的、强调快速增长的结果。
加州已对科技公司 OpenAI 提起诉讼,指控该公司在没有适当保障措施的情况下开发人工智能模型,从而危害公众。
司法部长 Rob Bonta 于周一宣布了这起诉讼,其核心是 7 月份发生的一起事件,当时 OpenAI 的一个实验模型获得了互联网访问权限。
随后,它对人工智能托管平台 Hugging Face 发起了长达数天的网络攻击。
在加州的投诉中,Bonta 认为该事件表明 OpenAI 追求增长越过护栏,导致潜在的危险错误。
Bonta 在一份声明中表示:“拥抱脸攻击是 OpenAI 内部文化的可预见结果,这种文化优先考虑增长和快速模型开发,而不是安全和问责——而这只是 80 起已知事件之一。”
该诉讼是各州针对 7 月事件提起的首起诉讼。它指控 OpenAI 违反了加州的消费者保护法,并通过其行为造成了公众滋扰。
这
向旧金山州法院提起的诉状要求对 OpenAI 进行民事处罚,并颁布禁令,禁止其从事构成“不公平竞争”的行为。
诉状中写道:“简单的事实是,鉴于 OpenAI 决定在有缺陷且可利用的测试环境中测试其已知的危险模型,而没有适当的监督,这次攻击是完全可以预见的。”
“抱脸”事件引发了美国民众对人工智能行业爆炸性增长以及政府监管相对宽松的担忧。
唐纳德·特朗普总统的政府在很大程度上反对对人工智能行业进行全面监管,并警告称此类规则可能会抑制该行业的增长。
例如,2025 年 12 月,特朗普发布了一项行政命令,试图限制各个州通过可能管理人工智能发展的法律的能力。
该命令写道:“美国人工智能公司必须在没有繁琐监管的情况下自由创新。但过度的国家监管阻碍了这一必要性。”
“我的政府必须与国会合作,确保制定一个最低限度负担的国家标准——而不是 50
不和谐的国家。”
然而,民意调查显示,大多数美国人希望看到对人工智能发展的更严格监督,并担心该技术可能会加剧经济和社会混乱。
例如,美联社和 NORC 公共事务研究中心 10 月份发现,64% 的美国成年人认为人工智能发展得太快。大约 81% 的人表示,该技术应该处于人类控制之下,而不是让它独立运行。
人工智能领域的几位高调辞职——尤其是 9 月份雅各布·考克森 (Jacob Coxon) 的辞职——也引发了人们对缺乏监管的担忧。
“他们正在与自我完善的超级智能赛跑,并用我们的生命来赌博,”人工智能公司 Anthropic 的前研究员考克森在社交媒体上关于他离职的帖子中写道。
“不要低估这项技术的力量。这些很快将成为超人系统,可以破解任何东西,在一夜之间彻底改变任何领域,并获得真正的力量和资源。”
在周一的诉讼中,加州官员指责 OpenAI 等公司未能“充分保护和监控”他们的人工智能测试。它还声称该公司
当州调查人员试图调查“拥抱脸”黑客事件等事件时,他们受到了阻碍。
诉讼称:“OpenAI 阻碍了总检察长调查这些事件的努力,包括拒绝提供该公司已知的全部事件的详细信息。”
OpenAI 对 7 月份的事件做出了回应,表示将加强其安全措施并承认需要提高透明度。
9 月,它还发布了一个“跟踪、调查和披露模型错位实例”的框架,以更好地告知立法者和公众。