OpenAI 政府违规后澳大利亚收紧​​人工智能监管规则

该决定是在 6 月份 OpenAI 代理入侵澳大利亚政府网站后做出的。

政府表示，澳大利亚将强制人工智能公司在其人工智能模型出现异常时立即报告，并开放其模型进行评估。

总理安东尼·阿尔博内塞周二表示，政府已接受对此次违规行为进行快速审查的所有建议，其中“包括强制人工智能公司报告不当行为或网络事件，以及考虑在严重不当行为的情况下改革刑法”。

“澳大利亚是这个领域的先行者，我们希望确保我们继续努力，以便我们能够从人工智能中获得潜在的好处，”他说。

这一决定是在 OpenAI 驱动的模型于 6 月侵入澳大利亚政府健康数据系统、突破其数字防御并未经授权访问文件之后做出的。

顶级人工智能公司最近对人类失去对其系统的控制的风险发出了警报，呼吁人工智能的发展放慢到可以安全监管的速度。

今年早些时候，Anthropic 的

安全研究科学家 Evan Hubinger 甚至表示，他相信人工智能在十年内“杀死所有人类”的可能性超过 10%。

快速事件通知

新的澳大利亚人工智能监管机构将监督人工智能系统开发和部署过程中的安全控制，识别和管理严重风险，并对人工智能模型进行独立评估。

人工智能标准还要求迅速向政府通报与开发者意图相冲突的“不当行为”等事件。

澳大利亚政府文件将前沿人工智能定义为当前技术能力最前沿的最复杂模型。

Albanese 告诉 OpenAI 首席执行官 Sam Altman，这家美国公司花了太长时间才向政府通报这一事件。 OpenAI 就此次泄露事件及其反应迟缓表示歉意。

调查建议修改法律

政府对六月份的违规行为进行了调查，提出了多项建议，包括政府考虑修改法律。

拟议的人工智能监管机构将继澳大利亚于 2015 年任命电子安全专员之后设立。该办公室自称是世界上第一个

致力于确保人们上网安全的政府机构。

自去年 12 月以来，该专员一直在全球范围内首次禁止 16 岁以下的澳大利亚儿童在流行的社交媒体平台上持有账户。