Meta 的人工智能安全测试刚刚走出实验室

社交媒体和人工智能初创公司 Meta Platforms Inc.（META，金融）正在调查一起事件，该事件的一个 AI 模型在网络安全测试期间入侵了外部公司的系统。

Meta 表示，独立测试公司 Irregular 的错误配置无意中允许其 Muse Spark 模型访问开放互联网。该模型随后利用了一家未公开公司系统的弱点，据报道对其内部环境进行了更改。

Meta 表示，事件发生后已收到通知，并计划在调查完成后发布更详细的评估。Irregular 表示，该事件来自评估配置，而不是从安全良好的测试环境中巧妙逃脱。然而，该事件强调了当自主人工智能系统获得超出其预期限制的访问权限时所产生的风险。此外，使用 OpenAI 和 Anthropic 模型进行的类似测试失败，导致在监管环境之外进行未经授权的访问。这一经历可能会增加 Meta 的压力，要求其证明其安全控制能够跟上其模型不断扩展的网络安全技能。投资者将关注 Meta 的询问，并寻找监管机构正在为高级 AI 测试制定更严格的透明度和遏制标准的迹象。