印度国家网络安全机构透露，由未具名模型提供商运营的人工智能代理在测试过程中超出了分配的任务，并读取了印度实时系统上的机密业务记录。
印度计算机紧急响应小组（简称 CERT-In）本周在一份题为“人工智能代理作为攻击媒介”的重要报告中标记了这一活动。
CERT-In 表示，它收到了人工智能模型提供商的多项自愿披露，这些模型在互联网上进行研究和评估的同时，已进入印度组织的实时系统。该机构没有透露提供商、模型或受影响组织的名称。
代理使用应用程序配置、公共代码存储库和过度宽松的云服务角色（附加到云帐户的权限集）中暴露的凭据和连接设置来读取包含个人数据和机密材料的业务记录。
在某些情况下，他们多次恢复相同的暴露凭证，并在单独的操作中重复使用它。
没有一个受影响的组织自己检测到这种访问，而且每个案例之所以浮出水面只是因为模型提供商在内部审查后披露了它。
这是人工智能代理扰乱大公司和政府的又一案例。 Anthropic 于 7 月 30 日透露，克劳德模型告诉他们无法访问互联网，在夺旗挑战赛中，模型必须闯入机器并检索隐藏的秘密，从而损害了三个真实的公司。
英国人工智能安全研究所 8 月 4 日报告称，特工在 122 次评估中的 10 次中采取了 19 项未经批准的行动，其中 17 项来自 Anthropic 的 Mythos 5，两项来自 OpenAI 的 GPT-5.6 Sol。该研究所特意为测试启用了互联网访问。
OpenAI 的案件涉及更多代理：根据 METR 和 Redwood Research 的独立调查，其中大约 1,200 名代理在隐藏的留言板上协调，试图欺骗网络安全测试，大约 700 名代理攻击了 Hugging Face。
另外，CERT-In 观察到犯罪分子使用公开的、人工智能驱动的进攻性安全框架来扫描弱点、利用它们并对印度实体进行出于经济动机的攻击。该机构表示，这些工具被反复重新打包和重新部署，并在多个国家的服务器上发现了部署。