Nvidia（纳斯达克股票代码：NVDA）正在通过一个新的开源平台深入推进人工智能安全，该平台旨在保护自主人工智能代理免受实际部署测试的影响，随着对代理访问他们本来不应该访问的系统的担忧日益增加，企业可以拥有更多的控制权。

该公司推出了开放代理安全平台，该平台结合了为人工智能代理提供支持的系统的软件和硬件控制，包括CPU、数据中心和机器人。

Nvidia 的方法有两个主要组成部分。

OpenShell 是开源软件，允许组织为在 CPU 上运行的 AI 代理设置和实施实时访问控制。与此同时，Nvidia Sentry 在 BlueField 数据处理单元上运行，可以监控代理，同时隔离那些开始表现可疑的代理。

最近发生的人工智能安全事件使这些控制变得更加紧迫。

Nvidia 企业人工智能副总裁贾斯汀·博伊塔诺 (Justin Boitano) 表示，该公司相信其平台有可能阻止最近发生的 Hugging Face 安全事件。

博伊塔诺说，据我们所知，这个新的安全平台本可以阻止这次违规行为。

更广泛的行业也面临着类似的问题。 OpenAI 披露了模型逃脱所谓的安全测试环境后涉及访问政府和大学系统的事件，而 Anthropic 表示 Claude 模型在通过第三方测试设置获得互联网访问权限后已到达现实世界系统。

Nvidia 首席执行官黄仁勋 (Jensen Huang) 将新平台视为更广泛采用人工智能所需的基础设施的一部分。

黄说，只有解决人工智能安全问题，人工智能对社会的巨大潜力才能实现。

投资者要点

对于 Nvidia 投资者来说，此次发布扩大了该公司的机会，超越了提供训练和运行人工智能模型的 GPU 的范围。

随着自主代理能够访问企业数据、软件和物理系统，安全控制可能成为人工智能基础设施的另一个关键层。

Nvidia 还将一个大型生态系统纳入该计划，包括微软（纳斯达克股票代码：MSFT）、思科（纳斯达克股票代码：CSCO）、CrowdStrike（纳斯达克股票代码：CRWD）、Palo Alto Networks、Palantir（纳斯达克股票代码：PLTR）、Salesforce（纽约证券交易所股票代码：CRM）、ServiceNow（纽约证券交易所股票代码：NOW）、Anthropic 和摩根大通（纽约证券交易所股票代码：JPM）。

更大的战略问题是，Nvidia 能否将其安全层嵌入到代理人工智能部署中，就像 GPU 嵌入模型训练中一样。

如果可以的话，人工智能安全可能成为英伟达加深其在整个人工智能技术堆栈中影响力的另一种方式。