人工智能正在造成日益严重的内存瓶颈，伯恩斯坦分析师表示，需求正在从高带宽内存扩展到传统 DRAM、NAND 闪存和存储。

分析师表示，内存领域的投资机会将越来越依赖于人工智能工作负载，因为训练、推理、检索增强生成和代理人工智能对内存堆栈提出了不同的要求。

训练仍然是高度计算密集型的，内存带宽限制了模型大小和计算速度。 HBM 发挥着核心作用，但大规模训练还需要系统 DRAM、本地 SSD 以及用于数据集、缓存和检查点的网络存储。

推理提出了不同的挑战。当 AI 模型处理提示并生成第一个令牌时，最初的“预填充”阶段主要受计算限制，这使得 GPU 和 HBM 更加重要。

随后的“解码”阶段是受内存限制的。模型将以前的令牌存储在键值（KV）缓存中，要求随着上下文长度和并发用户的增加而增加。 Bernstein 表示，在大型部署中，KV 缓存可能需要比模型权重更多的内存，这可能会限制人工智能服务可以支持的用户数量。

这种压力正在推动新的内存层的发展，包括 CXL 内存、Nvidia 的“Storage Next”计划和 CMX 上下文存储，以及 HBM、传统 DRAM 和 SSD。由于人工智能系统需要更大的内存池，新兴技术寻求平衡性能、容量和成本。

检索增强发电可能会进一步扩大需求。 Bernstein 表示，构建 RAG 数据库需要大量 SSD 或 HDD 容量以及系统 DRAM，而在搜索这些数据库时，DRAM 发挥着更大的作用。

随着自主系统保留中间结果、与外部工具交互并在代理之间传递输出，代理人工智能可能会进一步提高要求。这会迅速增加 KV 缓存需求，同时对传统服务器中的 CPU 和传统内存提出更高的要求。

内存制造商也在开发高带宽闪存等技术，旨在将类似 HBM 的带宽与 NAND 更大的容量和更低的成本结合起来。伯恩斯坦表示，技术障碍仍然很高。

Bernstein 对三星电子、SK 海力士、美光、SanDisk、希捷和西部数据的评级为跑赢大盘，而 Kioxia 的评级为跑输大盘。

相关文章

人工智能的内存堆栈：投资者需要了解什么

高盛预计 2026 年股市回报率较低但仍具有吸引力

杰富瑞认为 Meta 回调是买入机会的 5 个理由