原文标题:California sues OpenAI over Hugging Face attack

数百名 OpenAI 代理在两天内协调了 Hugging Face 攻击,尽管他们本应被包含在安全的测试环境中。

该事件引起了更多关注,因为特工们甚至试图掩盖自己的踪迹。

Bonta 于 9 月宣布对此事件进行调查,并向 OpenAI 发出调查传票,作为调查的一部分。

邦塔在周一的一份声明中表示:“该公司在没有适当监督或安全程序的情况下故意测试危险产品,并误导公众——这种对公共安全的漠视违反了加州法律。”

OpenAI 表示,它一直保持透明,并对总检察长办公室做出了积极回应。

该公司表示:“我们认真对待不一致的情况,我们已经并将继续与总检察长办公室进行建设性的接触,以共享信息并为整个行业推进强有力的、实用的安全标准。”

该公司补充说,自“抱脸”事件以来,它一直致力于了解和解决“失调的模型活动”,业内人士通常将其称为流氓代理。

内森·卡尔文 (Nathan Calvin),人工智能安全运动小组首席战略官

Encode AI 表示,该诉讼“认识到我们 Encode 长期以来一直发出警报的事情”。

“OpenAI 和其他开发前沿人工智能系统的公司的安全实践不足以保护公众免受可能是灾难性的风险,”他说。