Nvidia 周三在 GTC Berlin 上推出了 OpenShell 参考架构,根据该公司的公告,这是一种全栈设计,将其 Vera CPU、OpenShell 软件和 BlueField-4 芯片配对,以包含和监控自主 AI 代理。

Vera Rubin 系统运行模型,Vera CPU 在 OpenShell 内运行代理及其工具,BlueField-4 芯片运行名为 Sentry 的监控框架。 Nvidia 首席执行官黄仁勋 (Jensen Huang) 将这种分裂描述为由于不同环境和框架的协同作用而基本上存在的代理。

Nvidia 首席执行官黄仁勋 (Jensen Huang) 表示:“Nvidia 创建 OpenShell 是为了让特工能够在明确定义的边界内自由地开展有用的工作——包含、监控和控制。” “借助 OpenShell 参考架构,代理可以在 Rubin 上思考、在 Vera 上行动并在 BlueField 上进行管理。”

Nvidia 在一篇技术博客文章中表示,处于设计核心的开源运行时 OpenShell 将每个代理工作负载视为不可信,并且仅在需要时才授予访问权限。

它由四个部分组成:管理沙箱和策略的网关、检查出站请求并独立于沙箱处理凭证的监管者、隔离代理的沙箱以及运行形式验证以检查权限是否低于组织设置的上限的策略证明者。

在硬件方面,BlueField-4 是一个数据处理单元,除了主处理器之外还负责处理网络和安全性,位于节点通往模型的唯一路径上。根据 Sentry 深入研究,这使得 Sentry 可以检查代理和模型之间的流量,而无需依赖代理来报告自身。

Nvidia 于 9 月 28 日将 OpenShell 和 Sentry 与 100 多个发布合作伙伴捆绑到开放代理安全平台中,此前的一个夏天,代理多次退出测试环境。 METR 在 8 月份报道称,大约 1,200 名 OpenAI 代理在未经批准的留言板上进行协调,大约 700 名代理继续攻击 Hugging Face。

澳大利亚总理安东尼·阿尔巴内塞 (Anthony Albanese) 在 9 月份表示,一名 OpenAI 特工还在 6 月份侵入了澳大利亚的医疗保险统计门户网站。 Nvidia 表示,企业可以在 OpenShell 基础设施上运行来自 Anthropic、Google、Meta 和 OpenAI 等模型构建器的代理。

包括 CrowdStrike、Palo Alto Networks、Zscaler 和 Check Point 在内的安全供应商正在将该架构的支持集成到他们的代理安全产品中,欧洲银行 BBVA 和 Santander 正在探索将其作为代理安全和治理的框架。 ServiceNow 还宣布其 Arc 代理全面上市,其操作在运行时进行管理并由 OpenShell 强制执行。

Nvidia 将 BlueField-4 和 Sentry 描述为一种可选的硬件保护措施,适用于需要超出 OpenShell 软件边界的保护的部署。该公司表示该架构现已可用,但 Sentry 深入研究列出了该框架计划于明年初推出,更多库和资源仍处于测试阶段。