微软正在数据中心安装最新版本的 Maia 芯片，以为其主要使用本土硬件的人工智能软件提供支持。该公司预计将库存数千兆瓦的 Maia 芯片，Maia 300 将于明年开始推出。彭博社的马特·戴 (Matt Day) 与埃德·勒德洛 (Ed Ludlow) 一起参与“彭博科技”节目。
有很多读者对此感兴趣。 Maya 300 生成地图的基础知识及其大规模部署的计划。
所以这一代，它是一个片上系统。它专为人工智能任务而设计。不过，它是为人工智能推理而设计的。就像我们不是在谈论训练新模型一样，而是在谈论有效运行现有模型。呃，亚马逊，对不起，微软认为他们可以将足够多的这些设备插入他们的数据中心，从而对他们的成本和性能产生有意义的影响，最终他们说这些东西将支持他们内部的大部分人工智能工作负载。
Maya 300 承诺每兆瓦的令牌比微软所说的领先 GPU 系统多 40%，但因为它使用 HPM4，我很确定他们正在针对 Nvidia 的 um Vera 进行测试，或者将其 Vera Rubin um 作为比较器进行基准测试。
微软芯片计划的历史和背景是什么？就像所有超大规模都有定制硅程序一样。不同的参与者对于计算多元化远离 Nvidia 的重视程度不同。其中一些人将其重点放在吞吐量的经济学或代币经济学上。
这正是微软已经登陆的地方。我知道他们的起步比他们的大型超大规模竞争对手稍晚一些。谷歌早在几年前就开始开发 TPU。亚马逊收购了 Onana，并推出了训练和推理芯片产品线。所以微软在这方面来得有点晚。嗯，但我认为人们在第三代芯片中寻找的是，你知道，它是否达到了他们将开始成熟该产品并使其有效上市的规模。如果他们要走不同的方向的话，还会有更多。这个信号是数千兆瓦的部署。那是一吨。他们今天的数据中心可能只获得了大约 12 吉瓦的电力。这是一个真正的迹象，表明他们希望继续推动这一目标。嗯，只是因为他们认为在效率方面他们可以建造一个比 Nvidia 更好的捕鼠器。
有趣的是，你知道，该股上涨了一个多百分点，但再次接近新的历史高点。嗯，我认为我们需要提醒观众，马特，重点是微软处于超大规模。它是加速器或 GPU 的巨大买家。它正在开发自己的芯片。尝试解释一下其规模以及他们对人工智能数据中心的承诺。
是的，所以他们像他们的大同行一样花费了数千亿美元，呃亚马逊、谷歌和 Meta，嗯建设数据中心，然后最昂贵地为它们配备 Nvidia 设备呃，让里面的人工智能运转起来。嗯，微软今天早上宣布的令人惊讶的事情之一是，他们不会将芯片的计算能力出租给第三方。他们认为像 Copilot 这样的东西，像 GitHub 这样的东西有足够的内部需求，嗯，他们可以用这些芯片来满足一些工作，然后把那些 Nvidia 珍贵的芯片留给客户。