Nvidia 推出新的开放模型来在企业和 PC 上运行代理

Nvidia 周四推出了专为永远在线代理和边缘计算而设计的新开放权重模型。

Nemotron 3.5 Super VL 是一个包含 1200 亿个参数的大型模型，适合企业使用的代理。虽然它使用的参数比 Nemotron 3 Ultra 模型少，但 Nvidia 表示它可以在指令遵循和工具使用任务中提供类似的准确性。

另一方面，该公司还推出了两款轻型 Bolt 型号。这些旨在在新的 AI PC（运行 Nvidia RTX Spark 芯片）和运行 DGX Spark 的工作站上本地运行。此类面向消费者、程序员和企业知识工作者的个人电脑目前正在通过微软和戴尔等合作伙伴投放市场。

Nvidia 开放模型和软件副总裁 Kari Briski 在宣布这些模型的博客文章中写道：“任何想要在 Nvidia 基础设施上运行代理的组织现在都可以为其层级提供一个开放的、优化的模型，而无需在功能和可部署性之间进行选择。”

Nvidia 声称，在进行后训练时，Super VL 比 Anthropic 和 OpenAI 的竞争模型（Opus 5、GPT 6.1 Sol、Luna、Astra）完成任务的速度更快

具体的代理任务。这些任务包括文档情报、财务会计、科学实验、医疗保险索赔和安全攻击弹性。

虽然每当一家大型科技公司宣布推出新型号时，这种说法都是标准的，但 Nvidia 却列出了一份据称正在使用 Super VL 的重量级公司名单来支持这一说法。其中包括 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce。

当然，这些并不是 Nvidia 发布的第一个与专有前沿实验室（既是其客户也是其投资的公司）竞争的开放权重模型。这家 GPU 巨头拥有一整套 Nemotron 模型，可以执行从多模式人工智能到推理、编码、数学和企业自动化的所有任务。

然而，这些快速增长的专有人工智能实验室现在正在寻求 Nvidia 以外的许多其他芯片和人工智能系统制造商来满足他们的需求（例如 AWS 的 Trainium 和 Cerebras 以及构建自己的国产芯片）。

因此，英伟达正在努力迎合企业公司希望在自己的数据中心运行自己的开放模型的趋势。 “与封闭边界模型不同，组织可以在培训后

超级 VL 在他们自己的数据上，将其部署在他们自己的基础设施上并拥有他们构建的东西，”布里斯基写道。

但随着较小的本地 PC 型号的发布，它也试图推动消费者人工智能助手的新生趋势。虽然初创公司和大型科技公司似乎每天都会推出新的人工智能助手，但对隐私感到厌倦的消费者可能不想邀请此类代理如此深入地进入他们的生活，让他们能够访问有关家庭、健康、财务等的信息。

因此，英伟达希望通过创建在本地运行模型和代理的机器，为自己销售由其芯片驱动的个人电脑创造一个新市场，个人电脑用户“可以委托日常项目……而不会将这些工作负载发送到云端，”布里斯基写道。

在这两个 Bolt 模型中，Nemotron 3.5 Bolt 74B-A9B 24GB 是专为本地代理任务设计的 740 亿参数模型。它旨在平衡速度与推理，以处理多步推理、工具调用和网页浏览。最小的 Bolt E4B 面向会话代理。

Nvidia 表示，Super VL 和 Bolt 74B-A9B 现已上市，Bolt E4B 将于本月晚些时候上市。