7月,开源AI网站Hugging Face遭到OpenAI(OPAI.PVT)开发的大量AI模型的攻击。

这一事件被称为“抱脸事件”,是人工智能模型如何摆脱约束并为完成指定任务而变得无赖的第一个主要例子之一。

此次黑客攻击之后,Anthropic (ANTH.PVT) 的模型也发生了类似的网络攻击;谷歌(GOOG、GOOGL);和元(META),加上日益强大的前沿模型的发展,导致人工智能时代网络安全更加受到关注。

它还提出了有关人工智能一致性的问题,或者人工智能系统是否按照开发人员的预期行事的问题。

Hugging Face 联合创始人兼首席科学官托马斯·沃尔夫 (Thomas Wolf) 告诉迪尔德丽·博萨 (Deirdre Bosa):“我们的攻击确实是这种失调的结果。”

“人工智能应该在它出现在互联网上并开始渗透基础设施时就决定这是一种不好的行为。所以对我来说,这是第一个迹象,表明尽管实验室做得很好,而且规模很大,而且那里有很多非常聪明的人,但他们还没有完全弄清楚,”他补充道。

作为回应,Hugging Face 建立了自己的开放式对准团队,致力于开放模型的安全和对准工作。

但人工智能安全问题不仅仅是一致性问题。不法分子已经在使用人工智能模型来扩大对全球目标的攻击。

然而,沃尔夫表示,在混乱之中至少还有一线希望。

“我认为……积极的观点是,这主要是一个工程过程,”他说。

“网络安全一直是攻击增加的故事。首先有一种病毒,我们发明了防病毒软件,每个人都进行了设置,然后现在我们有了这些新步骤。所以我们需要发明新的防御步骤,”沃尔夫补充道。

“我认为工业界的每个人,至少在人工智能和科技行业,现在都在关注这一点。”