人工智能工作负载的快速扩张正在对内存容量和带宽产生日益增长的需求,为新的存储技术打开了大门,该技术可以缓解基础设施的限制,同时为 NAND 闪存行业提供新的增长机会。

还在猜测哪些股票会跑赢大盘?我们的人工智能投资组合每月更新一次,表现优于标准普尔 500 指数 118%。查看本月列表 »

Bernstein 在一份研究报告中强调了高带宽闪存 (HBF) 的潜力,该技术旨在将与高带宽内存 (HBM) 相当的读取带宽与大 8 至 16 倍的容量结合起来,同时每 GB 成本显着降低。该技术可以减少运行越来越大的模型所需的昂贵 GPU 内存量,并允许 AI 系统检索之前处理过的信息,而不是重复执行昂贵的计算,从而使 AI 推理更加高效。

从人工智能训练向高级推理和代理工作负载的转变使得内存容量、带宽和数据重用变得越来越重要。更大的模型、更长的上下文窗口和更复杂的交互正在推动数据超越 HBM 的限制,扩大对传统 DRAM、NAND 闪存和硬盘驱动器的需求。

Bernstein 表示,HBF 可以通过分层内存架构解决这一挑战,其中 HBM 处理频繁访问和延迟敏感的数据,而 HBF 存储较大的模型参数、不常用的模型组件和可重用的键值 (KV) 缓存数据。这可以让人工智能基础设施提供商用更少的 GPU 运行更大的模型,并降低计算、电力和资本支出要求。

该技术还可以为 NAND 制造商创造重要机会。 Bernstein 估计,HBF 每比特消耗的 NAND 晶圆容量比传统三级单元 (TLC) NAND 多约 6.5 倍,这反映出其使用了更高性能的单级单元 (SLC) 闪存、额外的硅面积和先进的封装要求。

Bernstein 估计,HBF 的制造成本可能比传统企业级 SSD 高出大约 10 倍,具体取决于配置。然而,如果制造商以与 HBM 相当的水平定价 HBF 模块,同时提供更大的容量,那么该技术可能会产生有吸引力的毛利率。根据其基本情况假设,Bernstein 估计 8 层 HBF 配置的毛利率约为 86.5%,16 层 HBF 配置的毛利率约为 88.9%。

不确定在盈利之前买什么?在业绩下滑后,我们的 AI 最近的财报前电话会议带来了 +77% 至 +118% 的涨幅。查看本月收益精选 »

尽管有机会,伯恩斯坦警告说,HBF 面临着重大的采用障碍。该技术并不是 HBM 的直接替代品,并且在延迟、写入带宽、耐用性和数据访问方面存在局限性。它还需要改变处理器设计和系统软件,同时仔细优化数据放置和内存管理。

一个关键问题是缺乏 Nvidia 的正式认可,该公司转而推广 Storage Next 及其 CMX 内容内存存储平台等替代技术,以满足对 KV 缓存容量不断增长的需求。 Alphabet Inc Class A(纳斯达克股票代码:GOOGL)、Meta Platforms Inc(纳斯达克股票代码:META)、SK hynix Inc ADR(纳斯达克股票代码:SKHY)和 Tenstorrent 都是参与 HBF 生态系统的公司,但更广泛的行业采用仍不确定。

SanDisk 公司(纳斯达克股票代码:SNDK)已将 HBF 从概念阶段转向标准化和初始芯片开发,该公司的目标是在 2027 年推出用于推理应用的第一批产品样品。Bernstein 表示,该技术可以为公司的财务目标提供额外的好处,尽管 HBF 目前尚未包含在这些目标中。

Bernstein 维持 SanDisk 跑赢大市的评级,目标价为 3,000 美元。它还对希捷科技公司(纳斯达克股票代码:STX)、西部数据公司(纳斯达克股票代码:WDC)、三星电子有限公司(KS:005930)、SK海力士和美光的评级为跑赢大盘,同时给予铠侠铠侠评级为“跑输大盘”。

分析师表示,HBF 最终可以为 NAND 行业带来 HBM 为 DRAM 所做的事情,创造一个由人工智能驱动的优质需求类别,并通过增加晶圆消耗来收紧供应。然而,其商业成功将取决于技术执行、客户采用以及替代内存架构的竞争。

原创文章

HBF 能否解决内存瓶颈?

英伟达首席执行官黄承认婚外情,并在调查启动后向员工道歉