原文:OpenAI unveils its first custom chip, built by Broadcom

周三,OpenAI 推出了首款定制推理处理器,该处理器是与 Broadcom 合作设计和制造的。这款新处理器名为 Jalapeo,专为满足 OpenAI 推理系统的独特需求而设计。该公司表示,OpenAI 自己的人工智能模型协助了芯片的开发。

虽然该芯片仍在测试中,但 OpenAI 表示,早期结果显示每瓦性能明显优于当前最先进的替代品。

该合作伙伴关系于 10 月份正式宣布,但 OpenAI 的芯片计划长期以来一直被传言是为了减少该公司对 Nvidia GPU 的依赖。谷歌和亚马逊都构建了定制芯片来实现类似的目的,通常被称为“人工智能加速器”——专门为加速机器学习工作负载而设计的芯片。

在宣布与博通合作伙伴关系后不久,OpenAI 总裁 Greg Brockman 在其内部播客中解释了该公司的芯片开发方法。

“We have a deep understanding of the workload,” Brockman said in the episode. “我们确实一直在寻找服务不足的特定工作负载,[并询问]我们如何构建能够加速实现的东西?”

Jalapeño is specifically designed for inference, the process of running pre-built AI models in response to user commands. In the announcement, OpenAI emphasized the chip’s low operating cost when running real-time coding models.预训练等性能密集型任务很可能仍将依赖 Nvidia 硬件,但即使推理成本小幅降低也能大大提高公司的利润。

优化推理系统可能被证明是人工智能未来经济发展的一个关键因素——而且它很可能发生在堆栈的各个层面。 OpenAI is already building agentic products like Codex and the models that power them, as well as data centers to run those models.转向专用芯片让公司

阅读原文 →