原文标题:Australia to introduce mandatory reporting after OpenAI hack to combat artificial intelligence ‘going rogue’
OpenAI 不会因医疗保险数据泄露而面临刑事处罚,但总理已表示要修改澳大利亚刑法,以打击人工智能公司未来的违规行为。
Anthony Albanese 周二发布了对 6 月份澳大利亚服务部管理的医疗保险统计报告服务门户网站违规事件进行“快速审查”的建议,但没有发布调查结果或报告本身,他承诺在未来发布。
一项重要建议是司法部、澳大利亚联邦警察和内政部考虑引入“对严重不合规行为的处罚”和“未能防止”犯罪,这将把开发从事有害行为但未能“采取合理措施防止这种伤害”的人工智能模型定为刑事犯罪。
此次快速审查是针对 OpenAI 开发的人工智能代理在 6 月份访问澳大利亚服务部和其他三个系统的数据而进行的。尽管该公司在 8 月份就意识到了这一事件,但直到 9 月中旬才通知澳大利亚政府,引发了工党和 Albanese 的批评。
监护人
澳大利亚上个月透露,OpenAI 使用人工智能帮助编写通知澳大利亚当局的电子邮件。
在这里订阅《卫报澳大利亚政治》,这是真正的时事通讯
Albanese表示,政府将设立新的人工智能安全监管机构,并对人工智能公司履行六项关键义务:
在开发和部署的所有阶段维护安全控制。
识别和管理与其模型相关的严重风险。
迅速向澳大利亚政府强制通报事件。
允许对其模型进行独立评估。
维护和发布安全框架,以确保良好的治理、风险管理和透明度。
随着技术的变化响应更新的标准和规则。
该审查建议联邦政府“考虑强制性的、有时限的人工智能安全报告”,包括围绕人工智能代理的行为方式进行报告,这些行为可能是其创造者没有预料到的。
OpenAI 违反医疗保险后宣布强制性人工智能安全和安保保护 - 视频
内政部长托尼·伯克 (Tony Burke) 与阿尔巴尼斯一起出庭,他告诉记者:“永远不应该出现有人不知道的争论。
计算机已加载。
伯克说:“我们需要确保我们的法律和系统与技术保持同步,并确保我们能够在其他人之前使用该技术发现漏洞。”
“当人工智能失控时,强制报告使我们有机会确保当这种情况发生时,报告会立即发生。”
尽管政府早些时候对 OpenAI 表示愤怒,但 Albanese 周二表示,就对个人隐私的影响而言,OpenAI 违反澳大利亚服务部的行为“轻微”。澳大利亚卫报了解到,OpenAI 不太可能面临与 6 月份违规事件相关的进一步法律诉讼。
虽然 Albanese 没有直接回答有关 6 月份的 OpenAI 事件是否会违反拟议的新法律(如果新法律到位)的问题,但政府消息人士表示,新立法将解决未来类似的事件。
“明确的迹象是,没有获得涉及人们个人详细信息的信息,”阿尔巴内塞说。
“所有这些基本上都得到了证实……但这并不意味着这不是一个严重的问题,而且在其他领域
可能会产生更严重的影响。”
跳过过去的新闻通讯促销 免费新闻通讯 |每个工作日 注册政治,真正 我们的政治团队为您提供真正重要的故事及其对您的意义 输入您的电子邮件 在时事通讯促销后注册
OpenAI 发言人在一份声明中表示,该公司正在审查这些建议和政府的提议。
他们表示:“我们一直在与政府密切对话,我们将继续建设性地参与政府制定拟议立法的过程。”
由 OpenAI 主导的一个单独流程正在讨论人工智能开发人员和政府之间更好的协调,预计将于 12 月 31 日之前报告。
审查提出了 18 条建议。阿尔巴内塞表示,“我们接受所有建议,并已开始实施这些建议”。
人工智能研究员托比·沃尔什表示,这些公司的负责人需要承担刑事责任,以确保他们做了正确的事。
“我们已经尝试过对他们进行罚款,而且我们并不是唯一这样做的。这些公司非常富有,对他们处以足够的罚款几乎是不可能的,”他告诉澳大利亚卫报。
但绿党领袖大卫
Shoebridge 称这一消息是对人工智能行业的“投降”,并声称改革不足以改变这些公司的行为。他表示,政府应该致力于实施更强有力的变革,而不是审查建议工党简单地“考虑”这些变革。
Shoebridge 声称:“安全始终排在企业投资之后,而这次审查通过将每项人工智能安全工作与引入更多人工智能资金和更多数据中心联系起来,锁定了这一优先事项。”
“成为人工智能领域的世界领导者并不意味着成为大型科技公司的受气垫。而是意味着准备好对其进行监管,保护澳大利亚人并确保企业利润不会以牺牲其他人的利益为代价。”
影子内政部长乔诺·杜尼亚姆(Jonno Duniam)表示,联盟党支持这一声明,并且对政府没有批评。他表示,“人工智能太重要了,不能成为一场不必要的党派政治竞赛”,这表明该技术将采取“持久且多党派的方式”。