要点

今年几乎所有有关人工智能 (AI) 内存需求激增的讨论都大体相同。有人会提到高带宽内存 (HBM)——堆叠在 Nvidia (NVDA -1.26%) 图形处理单元 (GPU) 旁边的芯片——讨论将跳转到美光科技。或者有人会提到闪存,话题就会转向Sandisk。两家公司都因其作为供应突然短缺的商品制造商的强势地位而获得了回报。

但这两家公司生产内存。一家规模较小的企业决定了服务器内部内存的排列方式,它正在解决芯片制造商无法单独解决的问题。

这家公司就是 Penguin Solutions (PENG -8.53% ),这是一家位于加利福尼亚州弗里蒙特的公司,大多数投资者从未听说过——部分原因是该公司两年前从 SMART Global Holdings 更名。它生产内存模块已有数十年的历史。它现在做的事情不一样了,市场还没有跟上。

PENG - 企鹅解决方案

纳斯达克 · 截至美国东部时间 26 年 2 月 11 日下午 4:00

企鹅解决方案正在攻击内存墙

这就是企鹅用简单的语言解决的问题。当人工智能模型开始回答问题时,它必须记住之前对话中所说的所有内容。该运行内存保存在称为 KV 缓存的东西中,而如今,它主要存在于 GPU 自己的内存中,这种内存既昂贵又稀缺。随着对话时间越来越长,人工智能代理运行数小时而不是几秒,内存就会被填满。因此,内存芯片和驱动器可能需要更长的时间才能为处理器提供所需的所有数据,而在 GPU 等待数据时,它会处于空闲状态。工程师称之为记忆墙。

Penguin 的答案是围绕一种名为 CXL 的技术构建的服务器,它可以让机器附加额外的内存,就像在台式计算机上添加额外的硬盘驱动器一样。 9 月份,该公司展示了一款 KV 缓存服务器,该服务器包含 3 TB 标准 DDR5 内存以及最多 8 个 1 TB CXL 附加卡,每台机器总共大约 11 TB。这个想法是将人工智能的工作内存放置在 GPU 旁边,而不是放在 GPU 内部,从而使这些昂贵的芯片能够花更多时间进行计算,减少等待数据的时间。 Penguin 还在与 Marvell Technology 合作开发下一代内存产品,并在 10 月份告诉投资者,由于预订量正在增加,该公司仍在向新的 CXL 产品投入资金。

企鹅公司的产品难以复制的原因在于它不仅仅销售卡片。它设计服务器,编写管理服务器的软件,并越来越多地运行整个设施。其 ClusterWareAI 软件现在可以检测并修复 GPU 性能问题,无需人工干预。这很重要,因为它的买家通常是新的云提供商,拥有所需的资本和 Nvidia 处理器的分配,但不是运营人员。

顾客讲故事

这些客户是第二个值得关注的原因。在第四财季,Penguin 签署了 6 个新的 AI 基础设施客户,其中 4 个是所谓的 Neoclouds,这是专门向 AI 实验室出租 GPU 容量的计算提供商。其中一家公司聘请 Penguin 在挪威部署和运行一个拥有 36,000 个 GPU 的设施,并得到人工智能实验室价值 100 亿美元的计算合同的支持。另一家公开交易的 neocloud 签署的合同价值超过 30 亿美元,选择 Penguin 进行部署和全天候运营。一家韩国科技公司的云企业选择它来构建以 Nvidia GB300 (Grace Blackwell Ultra) 平台为中心的云。

但请记住,企鹅本质上仍然是一家内存公司,而且内存市场具有很强的周期性。 10 月份,内存和人工智能相关股票经历了大幅抛售,Penguin 本身也较 10 月初达到的峰值下跌了 30% 以上。对我来说,这标志着一个买入机会。由于数据中心的需求,Penguin 的集成内存业务去年大约增长了一倍,但当供应赶上需求时,这种增长可能会逆转。该公司还依赖于少数大客户和它不控制的零部件,这就是为什么它花了一年中的部分时间来安排新的供应协议。

该股票在重要的方面被忽视了:当该公司实际上正在建造允许人工智能推理规模化的管道时,投资者看到的是“记忆”并想到的是“商品制造商”。对于任何已经拥有明显内存名称的投资者来说,在一家背后是镐和铲游戏的公司中开设一个小头寸可能是值得的。请记住,企鹅公司在一定程度上仍然是一只周期性股票,因此请相应地调整您的持股规模。