乔恩·马克曼 ,

贡献者。

概括

Anthropic 已启动内部芯片设计团队的招聘活动,标志着其进入 Claude AI 的定制芯片开发领域。这一战略举措由每天服务数十亿代币和 300 亿美元收入运行率的“算术”驱动,旨在共同设计硬件和模型,以实现无与伦比的效率并降低每次查询的成本。在与其他人工智能实验室一起追求这一目标的同时,Anthropic 强调这不是“逃离 Nvidia”,而是现有生态系统内的成本优化。该公司保持多芯片方法,继续与主要供应商合作,并已从谷歌博通获得大量 TPU 产能,这强调定制芯片会重新分配而不是消除更广泛芯片行业的支出。

Anthropic 已悄然加入前沿实验室,设计自己的芯片,这一转变与其说是因为逃离 Nvidia,不如说是因为每天服务数十亿代币。该公司已开始招聘亲自交付成品半导体设计的工程师——这一角色被直白地描述为“在没有大型组织支持的情况下轻松做出重要决定”的人。此次上市的价格为 320,000 美元至 485,000 美元,是 Anthropic 周三确认的内部芯片团队的首次公开招牌,标志着该团队朝着降低 Claude 回答的每个查询的成本迈出了第一步。

这样就完成了整个集合。谷歌拥有 TPU,亚马逊拥有 Trainium 和 Inferentia,OpenAI 拥有 Broadcom 构建的推理处理器,Meta微软都运行自己的芯片程序。最后一个没有实验室的主要实验室刚刚开始招募。流传的解读是,实验室希望摆脱 Nvidia 的控制,但 Anthropic 项目的具体细节完全指向其他地方。

人类实际上说了什么

既定目标是协同设计——将芯片和模型构建在一起,以便彼此塑造对方。一位发言人将其定义为确保“克劳德在用户需要的规模上运行得更快、更高效。” Apple 将这种方法用于 M 系列,Google 将其用于 TPU。它的工作原理有一个特定的原因:围绕一个已知工作负载构建的硬件可以跳过该工作负载永远不会要求的所有内容。

该公司同样清楚什么是不会改变的。 Anthropic 表示,它在 AWS、谷歌、Nvidia 和 AMD 上保持多芯片方法。它没有提供成品零件的时间表,也没有透露是否计划制造任何东西。 7 月份的报道描述了与三星就可能的定制芯片进行的谈判,但该公司尚未确认制造协议。

所以这个公告是一个附有设计理念的招聘计划。句子中所有能够与现有供应链决裂的部分都被遗漏了。

硅已经在路上

Anthropic 并没有等待内部团队获得定制芯片。今年 4 月,该公司扩大了与谷歌和博通的合作伙伴关系,预计将于 2027 年上线约 3.5 吉瓦的下一代 TPU 产能。根据去年 10 月签署的谷歌云协议,该产能将在 2026 年达到 10 吉瓦。 Broadcom 的角色值得坚守:它开发和供应定制 TPU,并且对 Google 下一代 AI 机架内的网络和其他组件有单独的供应承诺,直至 2031 年。 3.5 吉瓦大约相当于一个中型城市的用电量,致力于运行一家公司的模型。

Anthropic 首席财务官 Krishna Rao 称其为该公司迄今为止最重要的计算承诺,旨在服务“我们在客户群中看到的指数级增长”。成长是真实的。 Anthropic 的运行收入已超过 300 亿美元,高于 2025 年底的约 90 亿美元,超过 1,000 名企业客户每年的支出超过 100 万美元。一年内收入增加三倍是芯片项目值得考虑的首要因素。

Anthropic 购买定制芯片已有一年了。它只是从博通和谷歌那里购买。

为什么实验室想要自己的芯片

压力是算术值。一个运行收入达 300 亿美元的实验室每天提供大量代币,而每个代币的成本都是由它无法控制的硬件决定的。削减这一成本比工程组织可以做的几乎任何其他事情都更有价值,因为节省的成本永远落在每个查询上,并且会随着数量的增加而增加。

通用加速器是为运行一切而构建的,这意味着为单个实验室的模型从未命中的情况携带硅面积。围绕一个模型系列设计的零件可以降低这一开销。问题在于,先进的芯片程序耗资数亿美元,并且需要数年时间,而且模型架构必须静置足够长的时间,以便硬件能够赶上。这就是为什么追求这条路线的实验室是那些收入足够大以摊销设计并且模型系列足够稳定以实现目标的实验室。

钱到底去哪儿了

以下是逃离 Nvidia 框架所遗漏的内容。设计自己芯片的实验室不会从行业芯片层撤回支出。它重新分配该层内的支出。

该设计必须成为由具有 ASIC 专业知识的人构建的物理部件,这也是博通一直在复合的业务。编排任何加速器集群的 CPU 越来越多地在 Arm 架构上运行,而 Arm 现在将成品处理器出售给超大规模厂商,而不是收取其他人设计的版税。集群必须通过高速交换连接在一起。然后一切都由台积电制造。每个实验室推出的每个定制芯片项目仍然经过少数几家以设计、连接和制造芯片为生的公司。

亚马逊和谷歌多年前都建立了可靠的加速器,并继续收购英伟达。占据这一地位的是整个领域已经写入的软件,加上使数以万计的芯片像一台机器一样运行的互连。两者之下都有一个将 CUDA 视为默认设置的安装基础。在宣布自己的芯片团队时,人为地命名了 Nvidia,这是该公告中信息量最大的细节。

实验室的定制芯片是一项针对代币价格的成本计划。该行业的计算仍然来自去年的同一家供应商。

什么将真正决定结果

解决这个问题的部分是具体的:Anthropic 是否曾经流片过自己的芯片,三星或其他任何人最终是否会制造它,以及 2027 年 TPU 容量一旦落地对 Anthropic 每个代币的成本有何影响。在那之前,该公司正在做其资产负债表允许和其增长所需的事情——即从每个销售计算机的人那里购买计算资源,同时雇用可以帮助公司随着时间的推移减少购买量的人员。

人工智能的建设不断成为有关公司离开芯片层的头条新闻,而资金仍然源源不断地到达那里。