对于内存和存储库存来说，这是一个历史性的时期。曾经被归为低价值“商品”股票的代理人工智能革命刺激了内存和存储需求的绝对大幅增长。
不仅需求增加，而且该技术也从可互换的商品发展成为人工智能系统的战略推动者。因此，代理时代刺激了内存和存储巨头美光 (MU +2.30%)、SK 海力士 (SKHY +0.40%) 和 Sandisk (SNDK +7.40%) 股价大幅上涨。
然而，由于获利回吐、对中国更有效模式的担忧、卖空者的怀疑以及专注于人工智能的对冲基金 Situational Awareness 的“爆发”，这些巨大的涨幅被 7 月份的大幅回调所取代。即使在 8 月份反弹之后，这些股票仍比 6 月份高点低 15% 至 30%。
最近的回调是更多痛苦和“泡沫破裂”的预兆，还是逢低买入的机会？上周，埃隆·马斯克在他的社交媒体上写了一个三个词的句子，强烈指向后者。
“很少有人意识到这一点”
上周，一位私人技术高管指出，“代理时代的速度限制因素是内存，而不是计算，”埃隆·马斯克对此回应道，“很少有人意识到这一点。”
代理时代的速率限制因素是内存，而不是计算。
很少有人意识到这一点
在第一波生成式人工智能中，环境主要是针对人工智能系统的简单问题或提示，然后人工智能系统会找到答案。这种相对简单的人工智能应用程序给 GPU 及其大规模并行处理能力带来了很大的负担。
然而，在代理人工智能时代，人工智能的任务是独立规划和执行任务，游戏规则发生了变化。现在，重点已转向规划、思考、数据检索、测试和重新测试代理输出。这使得 CPU 密集型“规划”任务呈指数级增长。
不仅如此，每个“任务”还需要大量的存储和内存。在美光最近的一篇博客文章中，该公司写道，每个代理实例都需要：
这些要求中的每一项都需要内存来支持。美光还指出，这些工作负载的大部分内存不是传统的“商品”DRAM，而是专用的高容量、高带宽 DRAM。
这些更智能的内存架构需要更多的资本设备来生产；例如，内存制造商指出，生产每比特高带宽内存所需的资本设备至少是传统服务器 DRAM 的三倍。
这意味着代理人工智能所需的先进内存的供应变得越来越难以满足，而需求却在爆炸式增长，这就是 DRAM 价格飙升的原因。
NAND闪存也不甘示弱，即使在系统关闭时也能存储信息，尽管它比DRAM慢，但也在快速增长。这是因为长上下文代理的大量 KV 缓存内存链（基本上，先前的上下文 AI 代理必须“记住”以生成更多令牌）需要将大量数据卸载到基于 NAND 的 SSD。美光和 SK 海力士都生产 NAND 和 DRAM，而 Sandisk 则“纯粹生产 NAND”。
推理已将记忆推向最前沿
即使训练最好的前沿模型也需要大量内存，但该内存量最终会限制在填充 GPU 所需的内存量。换句话说，GPU 一次只能读取这么多内存，因此训练模型需要大量 GPU 以及必要的内存量。
然而，随着我们进入一个越来越多的消费者和企业将代理人工智能作为日常习惯的时代，对内存的需求似乎几乎是无止境的。如果AI代理运行很长一段时间，它就必须不断地读写KV缓存。
这就是为什么高盛的研究人员刚刚发布了对未来人工智能代币使用情况的令人惊叹的估计。该投资银行估计，到 2030 年，代理人工智能每月将消耗大约 120 万亿代币：是 2026 年初代币使用量的 24 倍。
因此，埃隆·马斯克强调内存是人工智能发展的最大硅基限制也就不足为奇了。即使到 2028 年会有更多供应上线，需求似乎仍会消化它。因此，当前的内存上升周期可能比许多投资者意识到的持续时间更长。