一个GPU,八倍硅片喂给了HBM?
Hot Chips大会上三星、英伟达、美光密集亮出HBM路线图:现货价涨7倍、单GPU封装九成硅片是内存、17%训练中断来自HBM。HBM正从标准化商品走向定制化平台,3D垂直堆叠成为共同方向,散热与可靠性成为第一约束。
Hot Chips这场会开完,一个判断基本坐实了:HBM不再是那个按JEDEC规范走货的标准品,它正在变成一个定制化平台。
三星、SK海力士、美光、英伟达在会上密集交出路线图,议题高度收敛——三维垂直堆叠是共同方向,散热与功耗是共同瓶颈,而基础底片正在从通信层变成算力平台。这不是某个厂商的孤注一掷,而是整个存储行业被AI算力需求推到十字路口后的集体转向。
本文拆四件事:HBM为什么突然缺到现货涨7倍;美光算出的那笔硅片与可靠性账;三星的ZHBM到底想干什么;以及英伟达在RISC-V上跑通CUDA,为什么值得所有做定制芯片的人竖起耳朵。
📈 现货涨了七倍,产能却要等两年
存储分析师Jim Handy在本届大会上给出的一组数字,是理解当前HBM格局的钥匙。
HBM每片晶圆产出的GB数,只有标准DDR的三分之一。换句话说,同样的硅片投下去,HBM的位元产出被堆叠、切片、键合的工艺损耗吃掉了大半。再叠加一个历史包袱:过去十余年,DRAM行业几乎没新建过晶圆厂——因为工艺微缩一直够用,位元增长靠制程推进就能满足。
后果很直接。Handy指出,新建产能即便按最激进的时间表推进,也需要约两年才能落地。而需求这一侧,几乎所有主流AI加速器——英伟达GPU、谷歌TPU、各类定制ASIC——全都依赖HBM,甚至连部分网络组件也开始用HBM,这是一个数年前几乎不存在的新需求类别。
结果就是:HBM现货价格较此前水平上涨约7倍,三星、SK海力士、美光及主要NAND供应商均录得异常强劲的营收增长。
会上有人提那个老问题:算法效率提升会不会压低硬件需求?Handy的回应很干脆——当一项新技术把内存需求降低6倍,超大规模云厂商的典型反应是用同样的预算处理6倍的Token,而不是削减资本支出。效率提升改变的是AI基础设施的生产力,未必减少流进这个池子的钱。
据多位接近存储原厂的人士,HBM产能在可见时间窗内基本已被长约锁定,现货市场的7倍涨幅更多反映的是边缘需求的恐慌性溢价,而非供给侧的真实松动。
🔥 十七个百分点:训练中断的头号嫌疑
如果说Handy讲的是市场,美光HBM设计架构师Ragu讲的就是物理。
他给出的第一个数字有点反直觉:一个典型的、包含4个12层HBM堆栈的GPU封装中,内存硅片总量约为GPU硅片的8倍——系统级封装中约90%的硅片与内存相关。你买的名字叫GPU,但你实际付费养活的,绝大部分是DRAM。
pie
title GPU封装内硅片构成
内存相关硅片 : 90
GPU逻辑硅片 : 10
第二个数字更扎心。Ragu引用META公布的Llama 3训练研究数据:约17%的非预期训练中断归因于HBM。对一个横跨数万卡、训练周期以月计的集群来说,这17%意味着实打实的算力空转和运维成本。
逻辑链条并不复杂:堆栈越高,单颗DRAM裸片失效波及整个封装的概率越高——一颗坏片,报废的是一个12层堆栈乃至整个封装。可靠性挑战随堆叠高度呈显著加剧态势,这不是靠良率爬坡能完全对冲的系统性约束。
而散热问题,已经上升为首要架构约束。HBM基础底片恰恰是整个堆栈中发热最严重的区域之一,热量从底部产生,向上穿过层层DRAM再逃出去——堆得越高,热路越长。据参会的封装工程师私下聊,现在讨论12层以上的方案时,热仿真的优先级已经排在了电仿前面。
🚀 ZHBM:三星想把内存直接摁在XPU头顶
三星的方案,是本届大会在架构上最激进的一步。
其路线图分三阶段:让HBM基础底片从单纯的通信层,逐步演进为定制逻辑层,最终成为定制化AI平台。终点是代号ZHBM的概念——把HBM直接垂直堆叠在XPU之上。
数字上,三星给出的目标是:总DRAM功耗较HBM5降低约70%,绝对功耗降幅超过100W,带宽提升2.3倍以上。
这三组数字要放在一起读。降低100W以上的绝对功耗,正面回应的是上一节说的散热瓶颈;70%的功耗削减和2.3倍带宽,本质上是把数据搬运的距离从板级拉到芯片级垂直方向——内存和算力物理上贴脸,功耗和延迟的红利就来自这段被消灭的路程。
HBM3E高堆栈量产
HBM4底片逻辑化起步
HBM5更高带宽
ZHBM垂直堆叠XPU
值得注意的是,SK海力士与美光虽路线细节不同,但方向趋同:底片逻辑化、混合键合、更激进的三维集成。当四家头部厂商在Hot Chips上给出同一个方向的路线图时,这已经不再是路线之争,而是节奏之争。
🔗 CUDA在RISC-V上跑通了,这事不小
英伟达在本届大会上放的另一个消息,热度不如HBM,但产业含义可能更深远。
英伟达披露其实验室已拥有至少三款RVA23处理器,并完成了CUDA在RISC-V硬件上运行的首次公开演示——同时展示了第三方定制CPU接入NVLink Fusion生态的具体路径。
翻译成人话:英伟达在向定制芯片玩家递话——你可以带着自己的CPU来接NVLink的总线,CUDA的软件栈不排除跑在非自研核心上的可能。
这和超大规模云厂商AI资本支出持续加速的主线是一体两面。云厂商一边加码买卡,一边自研定制硅片,而英伟达的策略是不阻拦、收编——定制CPU可以进我的互连生态,HBM照样买我的配额。
据多位接近英伟达生态的人士,实验室里RVA23处理器跑CUDA的演示,尚属早期验证,距离产品化仍有距离;但公开演示这个动作本身,就是生态姿态的表态。
对国产及各路RISC-V阵营而言,这条路径的参照价值在于:指令集的开放性与加速器生态的商业准入,正在成为两个可以分开谈判的问题。
🧩 溢出效应:NAND和HDD也被AI拖着跑
AI基础设施的扩张,正在顺着存储层级一路向下传导。
META测试在TLC SSD与HDD之间部署低成本QLC SSD后发现性能改善,促使超大规模数据中心更广泛地采用SSD;与此同时,AI基础设施对HDD需求的拉动已经造成HDD短缺,QLC SSD随之开始填补新的存储层级,甚至开始替代缺货的HDD。
这条链路的最终结果是助推NAND进入短缺状态,铠侠和闪迪(SNDK)成为直接受益者。
一个训练集群的存储需求,就这样层层传导,把一个原本由HDD把守的市场撬开了一道口子。这再次印证了本届大会的底层叙事:当算力需求以指数推进,存储体系的每一层都会被重新定价。
小结
把Hot Chips这场会的信息拼起来,图景其实很清晰:HBM的稀缺短期无解——晶圆厂缺口要两年才能补;可靠性约束随堆叠高度加剧,17%的训练中断已经敲了警钟;而三星的ZHBM和英伟达的NVLink Fusion,分别从内存架构和互连生态两端给出了同一个答案——定制化与垂直堆叠。下一个观察窗口,就看混合键合的量产良率,以及ZHBM这类概念从PPT走向流片的速度了。