8 月 11 日(路透社)——周二,IBM 和初创公司 Together AI 表示,已签署了一项价值 2.4 亿美元的多年期协议,将使用 Nvidia 系统在 IBM Cloud 上构建一个大规模人工智能集群。
该集群将为开源人工智能模型提供推理,随着企业寻求控制人工智能成本并权衡涉及 Anthropic、OpenAI 和 Meta 模型的网络安全事件的担忧,开源人工智能模型已经获得了关注。
推理,即运行训练有素的人工智能模型以生成响应的过程,已成为计算能力需求的最大驱动因素之一,促使云提供商和芯片制造商花费数十亿美元扩展人工智能基础设施。
IBM Cloud 上的集群将使用 Nvidia 的 HGX B300 系统,该系统连接该芯片制造商的较新 Blackwell 处理器及其 Spectrum-X 以太网设备。 Nvidia 表示 Blackwell 芯片针对人工智能推理进行了优化。
总部位于旧金山的 Together AI 平台让公司能够在 DeepSeek、MiniMax 和 Kimi 等开放模型上训练和运行人工智能工作负载,且成本比封闭系统更低。 它的最新估值是在 7 月份,为 83 亿美元。
(班加罗尔 Anhata Rooprai 报道;Tasim Zahid 编辑)