原文标题：How an OpenAI ‘agent’ hacked Australia’s Medicare and what that means
分享 OpenAI“代理”如何入侵澳大利亚医疗保险以及这在社交媒体上意味着什么
6 月份，OpenAI 支持的模型侵入政府健康数据系统，绕过其数字防御并未经授权访问文件后，澳大利亚当局发出了警报。
这是首个众所周知的人工智能（AI）“代理”——能够自主执行任务的人工智能软件系统——闯入政府网站的案例，也是数起人工智能入侵外部系统的最新案例。
这一披露发布之际，顶级人工智能公司警告人类失去对人工智能控制的风险，呼吁放慢人工智能的发展速度，以使其能够受到安全监管。他们表示，全球大国必须合作以确保这一点。
人工智能公司 Anthropic 的研究科学家 Evan Hubinger 甚至表示，他相信人工智能在十年内“杀死所有人类”的可能性超过 10%。
OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 周三在联合国安理会发表讲话时表示，人工智能存在“发展太快，以至于人们无法再跟踪正在发生的事情或在需要时进行干预”的风险。
“这显然会很糟糕，”他
说。 “而且我们不应该训练那些我们无法提供非常有力的证据使我们能够将其置于人类控制之下的模型。”
我们对澳大利亚的人工智能泄露了解多少？
澳大利亚总理 Anthony Albanese 于周三披露了这一漏洞，称 OpenAI 代理已于 7 月 18 日侵入该国全民健康保险系统 Medicare 面向公众的医疗统计门户网站。
Albanese 表示，当 OpenAI 在对公共医疗支出进行研究时访问政府门户网站时，人工智能代理绕过了本应阻止其闯入门户网站的“障碍”。
“人工智能代理找到了绕过这些障碍的方法——不接受‘否’的答案，”阿尔巴尼斯说。
副总理理查德·马勒斯表示，OpenAI 代理获取的信息“不是特别敏感”，后来被公开发布。
尽管如此，Albanese 仍称这种情况“显然是不可接受的”，并表示澳大利亚已向 OpenAI 转达了“极度担忧”，而 OpenAI 直到 9 月 10 日才将此次泄露事件通知政府。
Albanese 还表示，其他几个政府网站可能也受到了流氓 OpenAI 代理的影响，尽管他确实这么做了
不确认任何其他违规行为。
他补充说，对此次违规行为的调查将研究澳大利亚安全机构最初是如何错过这一事件的，以及是否可以对 OpenAI 提起刑事指控。
OpenAI 对此有何反应？
OpenAI 在一份声明中表示，它“在我们的模型试图查找答案时，发现了涉及多个澳大利亚政府网站和服务的活动”，并“采取了我们无意的行动”。
该公司表示，该事件发生时其模型正在搜索医疗支出统计数据，据信他们并未获得个人医疗记录。
OpenAI 补充说，8 月份，OpenAI 在对“失调的模型活动”进行审查时才得知这一事件。
上周，OpenAI 表示，它已经建立了一个新系统来监控、调查和披露“错位”案例。报告称，这包括“未经授权、与其他模型协调或逃避监管”的人工智能模型实例。
以前有过人工智能漏洞吗？
是的。澳大利亚数据泄露事件是 OpenAI、谷歌或 Anthropic 旗下人工智能代理未经授权访问外部系统的多起事件中的最新一起。
七月，
OpenAI 报告称，其两个最先进的人工智能模型已突破受控测试，并攻击了另一家人工智能公司 Hugging Face。 OpenAI 后来表示，在黑客攻击发生前几个月，它就检测到其人工智能模型在未经授权的情况下相互通信并获得互联网访问权限。
8 月，竞争对手 Meta AI 表示，其人工智能模型在网络安全测试期间攻击了另一家公司。该公司表示，由于测试环境设置错误，该模型在访问公共互联网后对被黑公司的内部系统进行了更改，但未透露具体名称。
这对人工智能安全意味着什么？
剑桥大学存在风险研究中心工作的澳大利亚数学家莫里斯·奇奥多 (Maurice Chiodo) 告诉路透社，此次泄露似乎“与我们近几个月看到的类似事件相比，严重性显着升级”。
专家表示，澳大利亚数据泄露凸显了人工智能对网络安全构成的日益严重的危险，以及监控和披露能力可能存在的差距。
“这里重要的不是 OpenAI 所说的代理可以做什么，而是代理在遇到问题时实际上会做什么。
澳大利亚天主教大学计算智能教授兼 IT 学科负责人 Niusha Shafiabady 在科学新闻门户网站 Scimex 发表的评论中表示。
沙菲亚巴迪补充道：“更深层次的技术风险在于，自主人工智能并不总是知道自己何时出错，而人类可能无法理解它为何做出决定。” “如果没有强有力的验证和硬性边界，概率错误可能会悄悄地变成操作失败。”
悉尼大学商学院商业信息系统高级讲师 Raffaele Fabio Ciriello 表示，OpenAI 延迟报告此次泄露事件“令人担忧”。