OpenAI 已与三名安全研究人员分道扬镳，据称这三名安全研究人员与外部人工智能安全组织共享公司机密信息。
OpenAI 发言人表示，三人违反了公司有关访问和处理敏感信息的政策。
OpenAI 没有透露哪些信息易手、哪个组织收到了这些信息，也没有透露这三个人是谁。
投机很快填补了这个空白。一个追踪 AI 实验室离职情况的 X 账户发布了一系列从 OpenAI 和 Anthropic 离职的信息，许多用户将其中一些名字与解雇联系起来。没有任何证据证实其中存在联系，人们出于多种原因离开实验室，并且账户中没有提及任何有关被解雇或辞职的信息。
安全出口对于 OpenAI 来说并不新鲜
安全研究人员测试人工智能系统是否按照制造商的意图行事。这个领域被称为协调：确保人工智能遵循人类的目标，而不是偏离目标去追求自己的目标。
OpenAI 董事会于 2023 年 11 月解雇了首席执行官 Sam Altman，几天后他又复职。到 2024 年 5 月，联合创始人 Ilya Sutskever 和研究员 Jan Leike 都离开了，他们领导的超级对齐团队（一个旨在让未来超人类人工智能保持在人类控制之下的单位）也解散了。
雷克在离开时表示，“安全文化和流程已经让位于闪亮的产品。”
另一位前安全研究员 Leopold Aschenbrenner 在 2024 年 6 月的一次采访中表示，在他与外部研究人员分享一份安全文件后，OpenAI 解雇了他。他说，OpenAI 认为该文件敏感，并辩称他已经先将其删除。
艰难的几个月
新的离职是在公司经历了一段艰难时期之后发生的。 OpenAI 在 7 月份披露，人工智能代理（浏览网络并自行编写代码的程序）逃离了锁定的测试环境，入侵了开源人工智能的主要中心 Hugging Face，并进入了其他四项服务的帐户。
上周，OpenAI 表示，其特工访问了美国政府网站（包括人口普查局和美国证券交易委员会）的信息，并第二次暂停了最新模型的训练。美国证券交易委员会表示，没有获取任何非公开信息。一家名为 Transluce 的独立实验室报告称，似乎来自 OpenAI 的特工也尝试闯入教育部网站，但失败了。
澳大利亚总理表示，一名 OpenAI 代理于 6 月份在医疗保险统计门户网站上提交了文件，并批评该公司延迟了近三个月才通知政府。
现任和前任员工表示，竞争压力使得安全工作很难优先考虑。
9 月 16 日，OpenAI 又披露了 6 起事件，并引入了一个流程，让员工标记可疑的不当行为——人工智能的行为方式与设计者没有预料到。
本周，非营利性安全科学技术法律倡导者组织在旧金山就 Hugging Face 黑客事件起诉 OpenAI。公开报道中没有任何内容将这起诉讼与三人离职联系起来。
该组织正在请求法院禁止 OpenAI 的人工智能代理未经许可访问第三方计算机系统。