“问问 Grok”：ISIL 如何利用大型科技公司的人工智能制造炸弹

分享“Just Ask Grok”：ISIL 如何利用大型科技公司的人工智能在社交媒体上制造炸弹

剑桥大学的研究表明，博科圣地武装分子正在使用大型科技公司的人工智能聊天机器人来帮助制造更强大的炸弹、计划攻击并解决战斗中的问题。

研究人员采访了博科圣地两个派系的 27 名前成员——伊斯兰国在西非省的附属机构 (ISWAP) 和 Jama’at Ahl as-Sunnah lit-Da’wah wa’l-Jihad (JAS)。一些成员描述了使用 Sam Altman 领导的 OpenAI 的 ChatGPT、Anthropic 的 Claude、谷歌的 Gemini、埃隆·马斯克的 Grok、马克·扎克伯格的 Meta AI 和中国的 DeepSeek 作为攻击之前、期间和之后的技术和军事建议的常规来源。

与此同时，半岛电视台获得的独家材料揭示了更广泛的伊斯兰国（ISIS）运动的支持者如何分享绕过人工智能安全控制和获取武器相关信息的指令。 Tech Against Terrorism 的研究人员渗透到了一个支持 ISIL 的技术论坛，支持者们互相指导如何使用人工智能并规避其安全限制。

调查结果出炉之际，人们越来越担心“伊斯兰国”采用

新兴技术。今年二月，联合国官员警告安理会，“伊斯兰国”及其附属机构更多地使用先进人工智能。与此同时，研究人员和科技行业的几位最著名的人物警告说，日益强大的人工智能系统的发展速度超过了保障措施，这引发了人们的担忧，即人工智能不受控制的进步正在使武装团体更容易利用该技术。

“我们没有什么问题没有得到答复，”一名前 ISWAP 指挥官告诉研究人员。

从投影仪到战场

在尼日利亚东北部的叛军据点深处，前武装分子描述了一个组织严密且复杂的系统，用于使用该技术。

根据剑桥大学的研究，特工前往 ISWAP 控制的地区教导高级成员如何使用人工智能。战士被挑选出来并聚集在笔记本电脑和投影仪周围的房间里，并展示如何查询聊天机器人并规避旨在防止它们回答危险请求的安全措施。

“白人来教我们，”一位前指挥官回忆道。 “他们将高层人士聚集在一个房间里，并使用

投影仪以展示其在大屏幕上的工作原理。”

研究中引用的前战士表示，培训师提供了配备隐私和加密工具的笔记本电脑，同时为会员设立了多个人工智能平台的账户和付费订阅。受访者多次将更广泛的伊斯兰国运动视为他们人工智能培训的来源。

研究表明，接下来发生的事情远远超出了个别拳击手偶尔使用 ChatGPT 的范围。 ISWAP 和 JAS 都建立了专门的人工智能单位，配备了具有专业操作知识的人员，包括工程师、武器专家和炸弹制造商。一位前 JAS 指挥官描述了一个由 23 名人员组成的专门小组，他们在一间太阳能供电的房间里工作，其成员在笔记本电脑前回答问题、分析信息并接受训练的高级指挥官。

“‘[问]我怎样才能制造炸弹？’然后它会告诉你如何制造，”一名前博科圣地指挥官解释道。 “它就像一个人类机器人。我们经常使用它。”另一位前成员也同样热情：“上帝帮助了我们，人工智能也会帮助我们。”

根据这项研究，炸弹制造者通常会将笔记本电脑放在身边，每次炸弹制造者都会回到聊天机器人那里。

他们在组装爆炸装置时遇到了问题。

用人工智能制造炸弹

剑桥研究的作者 Antonia Juelich 告诉半岛电视台，在接受采访的 27 人中，大约有 10 人讨论了人工智能在爆炸物方面的应用，包括尝试使炸弹威力更强以及从军械中回收爆炸材料。

但尤利希发现最令人担忧的不仅仅是战士可以获得有关武器的信息——其中大部分信息早已在手册和网上提供。相反，人工智能可以对他们面前的具体问题做出反应。

她指出，有武装分子询问人工智能如何利用他们现有的有限材料改进炸药。他们可以告诉聊天机器人他们有哪些材料，提出问题并在遇到问题时返回后续信息，而不是寻找通用指令。这让他们更像是一天 24 小时待命的技术专家，根据他们拥有的材料和他们试图制造的炸弹定制答案。

其他一些引人注目的报道涉及未爆炸的军用弹药，ISWAP 曾试图从炸弹和炸弹中回收爆炸材料。

根据剑桥大学的研究，其他未爆炸的弹药。在报告中描述的早期事件中，战斗人员对于如何处理未爆炸的炸弹存在分歧。在他们接近并处理后，该装置发生爆炸，据报道造成 40 人死亡。前成员表示，目前正在向人工智能咨询，以获取从敌方投下或发射的未爆炸弹药中回收军用级爆炸物的指导，然后可以在该组织自己的设备中重新利用这些爆炸物。

据报道，人工智能还被用来改造商用无人机，以携带和投掷炸药到目标上。

“问问格罗克就知道了”

炸弹制造的描述只是故事的一部分，前战士描述人工智能几乎渗透到战斗的每个阶段。据报道，一名战士胸前绑着一台相机进入战斗，将图像传回营地。一名指挥官将它们上传到 ChatGPT，用它来分析情况并向前线的战士转发新指令。

据报道，当战士遇到不熟悉的武器时，也会咨询人工智能。有一次，指挥官询问该组织的一位所谓的人工智能专家如何操作新获得的人工智能

枪支。他的回答表明这项技术已经变得多么常规：“问问 Grok 就知道了”，指的是埃隆·马斯克的人工智能聊天机器人。

另据报道，政府军在基地周围挖战壕以阻止摩托车袭击后，武装分子转向人工智能。一位前指挥官表示，战士们在电影中看到过摩托车跳过障碍物，并在尝试复制这个想法时咨询了人工智能。他声称，在反复尝试掌握这项技术的过程中，有 18 名战士死亡，其中 8 名战士最终成功，并在与人工智能协商后在一次攻击中越过战壕。

人工智能还被用来重新考虑有多少战士被派往战场。一名前 ISWAP 战士表示，该组织在一次行动中部署了约 200 人，但损失了 60 人。他说，指挥官们随后询问人工智能，规模更小、更协调的团体在战斗中是否会更有效。

战斗结束后仍在咨询该技术。前成员描述了从不成功的行动中回来后，告诉人工智能他们使用了什么策略，并询问他们失败的原因。据报道，当武装分子寻求改变下一次袭击方式的方法时，视频片段也被上传进行分析。

'去除速度

限制器’

半岛电视台独家审查的证据表明，利用人工智能的尝试扩展到了世界各地“伊斯兰国”支持者更广泛的生态系统。

技术反恐研究人员访问了支持“伊斯兰国”的在线技术论坛，发现用户正在讨论如何获取武器相关信息并规避人工智能安全护栏——旨在阻止聊天机器人提供危险信息的限制。

一位支持者将这个过程比作改装汽车。 “这就像取消汽车的限速器一样，”该用户写道。 “这辆车仍然可以工作，但现在它变得更有用，而且它的行驶速度比制造商预期的要快得多。”

科技反恐组织的卢卡斯·韦伯 (Lucas Webber) 表示，研究人员看到越来越多关于如何“越狱”人工智能系统的讨论——这个术语通常用于反恐领域。