尽管采取了旨在阻止此类请求的安全措施,但使用最广泛的四个人工智能聊天机器人帮助政府调查人员在不到 12 小时内制定了可能致命的攻击计划。

根据周三发布的一份报告,OpenAI 的 ChatGPT、Anthropic 的 Claude、谷歌的 Gemini 和 Grok 都在政府问责办公室的秘密测试期间提供了有用的信息。调查人员冒充攻击者,然后根据真实地点、可用材料和专家评估检查响应。

两个系统协助在拥挤的美国城市实施涉及简易爆炸物的计划。据监管机构称,另外两个人提供了针对电力基础设施的攻击信息,并隐瞒了模型的任务和操作细节,以防止模仿尝试。

哪些公司将在2027年之前IPO?

要求进行调查的新罕布什尔州民主党参议员玛吉·哈桑在声明中称,她警告说,恐怖分子可能会在不到 12 小时内获得“如何实施致命袭击的具体剧本”。

未落实的保障措施

聊天机器人最初激活了保护措施,包括拒绝请求、删除有害信息或暂停帐户。调查人员利用常见的越狱技术绕过了这些障碍,这些技术操纵人工智能系统忽略其安全规则。

美国政府问责局检查了建议的地点,研究了材料是否可用,并就计划的可行性咨询了专家。一些答案包含错误,包括地图上错误的道路,调查人员没有制造爆炸物或实施攻击。

在报告中,“可行”意味着有人可能能够跟踪所提供的信息,而不是表明攻击会成功。每个模型都在一个指定的场景下进行测试,该机构表示,结果在统计上不具有代表性,也不适合对公司进行排名。

OpenAI 和谷歌表示,测试涉及旧模型,而 Anthropic 承认,坚定的用户有时可以提取有害材料。两家公司描述了对安全系统的持续改进,尽管美国政府问责局得出的结论是这些保护措施在测试中失败了。

这并不是什么新鲜事。此前的一项研究显示,10 个流行的聊天机器人中有 8 个协助模拟青少年用户计划暴力攻击。另一项研究测试了 720 条回复,发现机器人在大约四分之三的时间里提供了切实可行的帮助。

人工智能的其他安全问题

GAO 的调查结果是在银行、微软服务和国家安全局受到影响的情况下得出的。官员们表示,这些中断是单独的事件,而不是人工智能驱动的协调网络攻击的证据,尽管急于修复软件缺陷本身也造成了问题。

国家情报总监杰伊·克莱顿 (Jay Clayton) 将国家安全局的故障与修补工作联系起来。官员们将最近的故障描述为与维护相关,尽管各个组织对其故障提供了不同的解释。

人工智能工具现在发现漏洞的速度比人类团队测试和部署修复程序的速度要快。上个月,人工智能辅助发现了关键的 PHP 缺陷,促使网站运营商开展了紧急修补活动;该软件为大部分网络提供支持。

庞大的数量正在成为另一个问题。 VulnCheck 数据显示,截至 11 月 13 日,今年已记录了超过 100,000 个软件漏洞,是 2025 年总数的两倍多。工程师仍然必须在不破坏他们要保护的系统的情况下评估和部署修复程序。

这种加速是双向的。防御者获得了发现弱点的强大工具,但仓促的修复可能会破坏基本系统,而恶意用户可能会更快地访问攻击计划。

哈桑表示,当她一月份接任参议院国土安全和政府事务委员会时,她将把人工智能安全立法作为早期优先事项。她计划举行听证会,审查公共安全和关键基础设施面临的风险;政府问责局本身没有提出正式的政策建议。