775微米,卡住了AI的脖子
📋 总体概括
HBM堆叠撞上775微米物理天花板,[[SK海力士]]押注混合键合,[[三星]]祭出ZHBM,[[美光]]量化散热与可靠性代价。AI存储正从标准化商品走向定制化平台,而产能与晶圆的刚性约束,才是这场竞赛真正的底牌。
📄 正文
HBM不是被算力需求推着走,而是被物理规律逼到了墙角。
这届Hot Chips上,三星、美光、SK海力士和英伟达密集披露了各自的HBM路线图,议题高度收敛:堆叠层数在涨、带宽在涨,但整个行业撞上了同一堵墙——HBM立方体的总厚度,被死死限制在775微米,恰好是一张300毫米逻辑晶圆的标准厚度。围绕这775微米,一场存储架构的路线之争已经开打。
📏 775微米,一道写在晶圆上的天花板
工程世界里的很多极限,都不是炫目的技术难题,而是一道不起眼的背景板。
775微米就是这样的背景板。300毫米晶圆出厂时的标准厚度,决定了所有贴在晶圆上做减薄的DRAM裸片,最终叠出来的HBM立方体不能比这个数字更厚——再厚,封装良率、翘曲控制和互连可靠性都会连环出问题。堆层数?可以,但每层必须更薄;带宽往上冲?可以,但物理空间已经没有余量。
SK海力士给出的解法是双线作战。一条线是延续自己的看家本领MR-MUF(大规模回流成型底部填充),并将其服务周期明确延伸至英伟达的Nvidia Rubin|Rubin平台——这意味着在当前这代产品周期里,SK不打算动基本盘。另一条线则是更激进的押注:面向HBM5导入混合键合(hybrid bonding),用更细的互连间距换取更高的堆叠密度和更好的散热路径。
产业逻辑很清晰:MR-MUF是已验证的现金流技术,混合键合是下一代入场券。SK海力士用前者的确定性收入,去养后者的不确定性研发——这是存储行业面对技术断层期最经典的打法。坊间的一种说法是,混合键合一旦在HBM上规模化,先进封装设备链的排期会比晶圆设备更紧张。这个判断是否成立,2026年就能见分晓。
🔥 热量从底部产生,却要往上散
HBM堆得越高,摔得越狠——这里说的不是良率,是温度。
美光的HBM设计架构师Ragu在Hot Chips上给了两组足以让人清醒的数字。第一组:在一个典型封装4个12层HBM堆栈的GPU里,内存相关的硅片总量约为GPU硅片的8倍——也就是说,整个封装里约90%的硅片都和内存有关。第二组更有冲击力:Meta公布的Llama 3训练数据显示,约17%的非预期训练中断,归因于HBM。一片DRAM裸片失效,整个封装跟着报废,堆栈越高,这个风险链越长。
pie title 典型GPU封装内硅片构成
内存相关 : 89
GPU逻辑 : 11
而散热问题,已经从工程细节上升为第一架构约束。HBM的基础底片(base die)是整个堆栈发热最严重的区域之一,热量从底部产生,却要穿过层层DRAM往上走——这几乎是一个反物理的散热设计。Ragu的结论很直白:硅片消耗、散热与可靠性,共同构成了HBM继续扩展堆栈高度的三重物理约束。
这就是为什么17%这个数字值得所有云厂商认真对待。AI训练集群的经济学里,中断就是真金白银的损失,HBM的可靠性不再是存储厂的产品参数,而是直接写进超大规模客户TCO模型的成本项。
🧩 HBM不再是商品,存储厂开始抢逻辑厂的活
这届Hot Chips最深的信号,不是某个具体数字,而是一次身份转变。
三星拿出的路线图分三阶段:把HBM的基础底片从单纯的通信层,逐步演进为定制化AI平台。终局形态是ZHBM概念——把HBM直接垂直堆叠在XPU之上,目标是将总DRAM功耗较HBM5降低约70%,绝对功耗降幅超过100瓦,带宽提升2.3倍以上。三个数字连起来读:存储正在从封装旁边,搬进封装里面。
| 玩家 | 路线 | 关键指标 |
|---|---|---|
| SK海力士 | MR-MUF延续至Rubin,混合键合上HBM5 | 突破775微米厚度限制 |
| 三星 | 基础底片三阶段定制化,ZHBM垂直堆叠 | 功耗较HBM5降约70%,带宽提升2.3倍 |
| 美光 | 聚焦散热、可靠性与成本约束 | 封装内约90%硅片与内存相关 |
| 英伟达 | NVLink Fusion开放生态 | 三款RVA23处理器,CUDA跑通RISC-V |
英伟达这一侧的动作同样值得玩味:其实验室已拥有至少三款RVA23处理器,并完成了CUDA在RISC-V硬件上的首次公开演示,为第三方定制CPU接入NVLink Fusion生态铺路。GPU公司自己下场做CPU、玩RISC-V,加上存储厂把base die做成计算平台——芯片设计的边界正在被AI需求重新划分。
判断由此而来:HBM正从JEDEC框架下的标准化商品,走向绑定客户的定制化平台。这对存储厂是把双刃剑——定制化意味着更高的设计投入和更深的客户绑定,但告别大宗商品周期,恰恰是过去三十年存储行业做梦都想干的事。
📈 建不出来的产能,压不住的现货价
架构再精妙,也绕不开一个朴素的问题:产能呢?
存储分析师Jim Handy在Hot Chips上泼了一盆冷水。需求侧,几乎所有主流AI加速器——英伟达GPU、谷歌TPU、各类定制硅片——都依赖HBM,连部分网络组件都开始用HBM,这是一个数年前几乎不存在的新需求类别。供给侧则更为尴尬:HBM每片晶圆产出的GB数仅为标准DDR的三分之一,而由于历史上工艺微缩足以满足位元增长,DRAM厂商已经超过十年没有大规模新建晶圆厂——即便现在拍板动工,激进时间表下新产能也要约两年才能落地。结果就是HBM现货价格较此前水平上涨约7倍,三星、SK海力士、美光及主要NAND供应商均录得异常强劲的营收增长。
对于"算法效率提升会压低硬件需求"的流行论调,Handy的回应颇有些工程师式的冷幽默:当一项新技术把内存需求降低6倍,超大规模云厂商的典型反应是用同样的预算去处理6倍的Token,而不是削减资本开支。效率改变的是AI基础设施的生产力,未必改变流进去的钱。
MR-MUF服务Rubin平台
混合键合导入与厚度破局
ZHBM垂直堆叠进入XPU
更隐蔽的连锁反应发生在存储的另一头。AI基础设施扩张同步收紧了NAND与HDD市场:Meta测试在TLC SSD与HDD之间部署低成本QLC SSD后发现性能改善,推动超大规模数据中心更广泛采用SSD;HDD因AI需求拉动出现短缺,QLC SSD开始填补新的存储层级甚至替代缺货的HDD,反过来助推NAND进入短缺状态,铠侠和闪迪(SNDK)成为直接受益方。一条AI需求链,把DRAM、NAND、HDD三个市场全部拉紧——这在存储行业历史上极为罕见。
⚠️ 写在最后:天花板不是终点,是分水岭
775微米这道墙,表面上是封装工艺问题,实际上是整个AI存储产业的重启键。
它逼着SK海力士去赌混合键合,逼着三星把base die做成计算平台,逼着美光把散热和可靠性写进架构设计的第一优先级。短期看,十年未建厂叠加三分之一于DDR的晶圆产出效率,意味着供需紧张和7倍现货溢价不会因为一两个季度的新厂投产而消解;中长期看,定制化HBM和ZHBM这类垂直堆叠方案,将重新定义"存储厂"与"逻辑厂"的分工边界——存储厂第一次有机会站到系统架构的主桌上。
下一次晶圆厂拍板动工、混合键合设备批量进厂的时刻,才是这场775微米攻坚战的真正交卷时间。留给所有人的问题是:等产能落地时,AI对存储的定义,可能已经变了。
本文由本站 AI 辅助聚合生成,原始来源如下: