原文标题:Nvidia doesn’t mess around: A week after open AI industry group formed, it’s already showing progress

成立仅一周的开放安全人工智能联盟 (OSAA) 是一个由 Nvidia 牵头的行业组织,目前已拥有超过 120 家公司,该联盟开发了一个名字可爱的工作组:共享人工智能发现交换中心 (SAFE)。该组织已经提出了公开征求意见的提案,该组织的成员 Linux 基金会正在管理这些提案。

该组织的成员们聚集在本周在拉斯维加斯举行的网络安全世界的枢纽——黑帽会议上,开发了这些技术。

目前,这些指导方针并不是什么惊天动地的事情。这些提案涵盖的领域包括如何秘密报告人工智能网络安全事件、向受影响的人发出警报,然后进行无责备分析,以便所有人都能从中学习。

与此同时,OSAA 的成员也贡献并编录了可能有用的开源技术的片段。随着这些类型的行业组织的发展,这可能最终会合并成一种开源手段,供企业保护其 AI 代理,或防御流氓 AI 攻击者,例如渗透 Hugging Face 的 OpenAI 模型。 (Huging Face 也是该组织的成员。)

例如,Nvidia 指出它提供了整个开放模型系列,以及名为 Garak 的开源 LLM 漏洞扫描器; Okta 正在研究代理身份技术;红帽正在致力于代理治理;亚马逊贡献了开放代理构建工具 Strands Agents 和授权语言 Cedar。还有更多的例子。

该组织现在包括许多知名企业,包括 Adob​​e、BlackRock思科英特尔微软Visa,但也有一些值得注意的缺席,例如 Anthropic、OpenAI 和谷歌

有趣的是,OpenAI 和谷歌都签署了催生该组织的原始公开信。这封上周发表的信敦促白宫支持开源人工智能的努力,而不是压制它们。它得到了 Nvidia 的支持,并得到了 200 多家科技公司的签署。

虽然 Anthropic 和行业组织迄今为止的冷遇并不令人意外,但 OpenAI 和 Google 都发布了自己的开放权重模型。众所周知,谷歌也是开源的大力支持者。我们将看看他们是否会随着这个团体的势头而加入。

与此同时,该团队正在以人工智能的速度运作。距离特朗普政府考虑禁止中国开放体重模型的消息传出才几周,这引起了业界的恐慌,并引发了这封公开信。

无论中国的开放权重模型最终在美国发生什么,这个重量级组织的快速行动似乎对美国开放人工智能生态系统来说是一件好事。生态系统中的一些人,比如美国开放权重人工智能实验室 Arcee 的联合创始人兼首席技术官,表示,这最终是消除中国人工智能实验室对美国构成的任何威胁(无论是真实的还是想象的)的方法。

该行业组织在信中写道:“开放可能是实现人工智能安全的最重要途径之一。”看起来他们已经准备好立即将他们的努力和他们的技术付诸实践。