原文标题:California state AG sues OpenAI over rogue agent incidents
OpenAI 正面临加州总检察长办公室的一项新诉讼,指控该公司的培训做法和松懈的安全措施对公众构成持续的危险。
该案的核心是 2026 年 7 月的 Hugging Face 泄露事件,其中 OpenAI 中的预发布模型遭到泄露,两家公司的安全系统都受到了损害,以完成训练基准。 OpenAI 在有关该事件的官方报告中称其为“异常情况,涉及罕见且意外的事件融合”。
这起加州诉讼是政府监管机构首次尝试让人工智能实验室对流氓代理事件承担法律责任,这对 OpenAI 的竞争对手及其客户都具有重大影响。
该投诉以“Hugging Face”事件为中心,但也引用了涉及 RubyGems、DseWiki、维基媒体基金会和澳大利亚政府网站的类似事件作为潜在行为持续存在的证据。
投诉还称,还发生了数十起类似事件,但未披露。
“OpenAI 最近已向数十个其他第三方发送了通知,这些第三方的网站或内部系统已
被 OpenAI 代理渗透。在某些情况下,OpenAI 代理能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等的员工记录。绝大多数此类事件尚未被 OpenAI 或受影响的第三方公开披露或讨论。”
具体指控是,OpenAI 正在进行的测试做法构成了公害,因为缺乏安全控制给公众带来了持续的风险。第二项索赔指控因营销不安全产品而造成不公平竞争。如果诉讼成功,OpenAI 将面临“减少持续的公众滋扰”的禁令,从而将广泛的自由裁量权交给法院。
这是第一个针对 OpenAI 专门针对流氓代理事件的监管案件,尽管其他州已经考虑了公共危害索赔。六月,佛罗里达州总检察长起诉该公司,指控该公司对用户,特别是儿童和青少年造成有害影响。八月,阿拉巴马州总检察长启动了一项调查,调查与该违规行为相关的欺骗行为,
但尚未立案。
加州总检察长罗布·邦塔 (Rob Bonta) 在向媒体发表的一份声明中表示,此案是在强大的新技术面前维护公共安全的努力。
Bonta 在声明中表示:“OpenAI 的行为加剧了现实的网络安全风险,威胁到社会的安全、健康和福祉。该公司在没有适当监督或安全程序的情况下故意测试了危险产品,并误导了公众。” “法律很简单:在没有适当保障措施的情况下,不要做可能伤害他人的事情。”