775微米，卡住AI存储的脖子

HBM终于撞墙了——撞的不是市场的墙，是物理的墙。

775微米，一片300毫米逻辑晶圆的标准厚度，如今成了AI存储堆叠难以逾越的天花板。SK海力士把宝押在混合键合（hybrid bonding）上，三星则端出ZHBM垂直堆叠概念。围绕这几百微米空间的争夺，本质是AI算力战争进入“寸土寸金”阶段的信号。

📏 775微米，怎么就成了墙

先讲一个工程冷知识：HBM不是芯片，是一个“魔方”。8层、12层乃至16层DRAM裸片垂直叠起来，用TSV穿孔互连，再通过2.5D封装贴到GPU旁边。问题在于，这个“魔方”的总高度被硬性限制在775微米——这是 SK海力士 在Hot Chips上公开点破的约束。为什么是775微米？因为这是300毫米逻辑晶圆的标准厚度，封装、回流焊、散热压合的整条产线设备，都是按这个尺寸校准的。

层数往上加，每层裸片就得往薄做；裸片越薄，良率、翘曲、碎裂风险全都在指数级上升。这就引出一个残酷的换算：

同样一片晶圆，做成HBM的产出只有DDR的三分之一，价格却涨了7倍。存储分析师 Jim Handy 的这句话，值得每个谈“HBM过剩”的人默念三遍。产业逻辑很清楚：在775微米的盒子里塞更多比特，单位硅片的成本会越来越贵，唯一出路是把堆叠方式本身换掉——这就是混合键合HBM5上桌的背景。SK海力士的策略是两条腿走路：先用MR-MUF封装撑到 英伟达 的Rubin平台，再用混合键合接棒HBM5。

🔥 17%的训练中断，都怪HBM

“内存坏了，训练停了。”这在大模型团队内部，是比显卡烧了更令人心头一紧的一句话。

Meta 公布的Llama 3研究数据，给了这个直觉一个精确注脚：约17%的非预期训练中断归因于HBM。美光 HBM设计架构师Ragu在Hot Chips上引用这组数据时，台下坐着的系统厂商都懂它的分量——对一个由数万卡组成、训练周期以月计的集群来说，17%的中断率意味着真金白银的算力空转。

更麻烦的是失效的传播方式。在一个典型的搭载4个12层HBM堆栈的GPU封装中，内存硅片总量约为GPU硅片的8倍，系统级封装中约90%的硅片与内存相关。而一颗DRAM裸片失效，就可能拖垮整个封装。堆得越高，雷区越多。

散热则是另一重天花板。热量恰恰从堆栈底部的base die产生，而散热要从顶部走——热路径与堆叠方向对着干。Ragu的结论很直接：散热已经从“工程细节”上升为“首要架构约束”。

🧩 HBM不再是标品

如果说775微米是物理之墙，Hot Chips上各家亮出的路线图，就是对这堵墙的三种拆法。

mermaid

三星的三阶段路线图最激进：把HBM的base die从单纯的通信层，逐步演进为定制化AI平台。其披露的ZHBM概念，思路干脆利落——不再把HBM摆在XPU旁边，而是直接垂直堆叠在XPU上面。目标是DRAM总功耗较HBM5降低约70%，绝对功耗降幅超过100W，带宽提升2.3倍以上。100W是什么概念？差不多是一颗高性能CPU核心的封装功耗，省下来全可以喂给算力。

另一个容易被忽略的信号：英伟达实验室已拥有至少三款RVA23处理器，并完成了 CUDA 在 RISC-V 硬件上运行的首次公开演示。这意味着第三方定制CPU接入 NVLink Fusion 生态的路径已经打通。HBM定制化+CPU定制化+互连开放化，三条线索合在一起指向同一个判断：HBM正从标准化商品，走向围绕XPU定制的平台级部件。据多位接近人士的说法，头部云厂商已经开始直接参与HBM规格定义，这在五年前不可想象。

🏗️ 缺的不是技术，是晶圆厂

技术路线图再漂亮，绕不开一个朴素问题：晶圆从哪来？

Jim Handy在Hot Chips上算了一笔账：由于过去工艺微缩足以满足位元增长，DRAM供应商已逾十年没有进行大规模产能扩张；而新建晶圆厂，即便按激进时间表也需约两年。需求侧却在全面开火——英伟达GPU、谷歌TPU、各类定制加速器全都要HBM，连部分网络组件都开始用HBM，这是一个数年前几乎不存在的新需求类别。

mermaid

短缺还在沿着存储金字塔向下传导。Meta 测试在TLC SSD与HDD之间部署低成本QLC SSD后发现性能改善，推动超大规模数据中心更广泛采用SSD；AI基础设施对HDD的拉动已造成HDD短缺，QLC SSD随之开始填补新存储层级甚至替代缺货HDD—— 铠侠 和 闪迪（SNDK）顺势受益，NAND也被拽入短缺状态。AI这把火，从HBM一路烧到了机械硬盘的货架。

🔮 效率悖论，与下一场牌局

最后回应一个流行论断：算法效率提升，会不会压低硬件需求？

Handy的回答毫不客气。当一项新技术把内存需求降低6倍，超大规模云厂商的典型反应是——用同样的预算处理6倍的Token，而不是削减资本支出。效率改变的是AI基础设施的生产力，未必减少流进这个行当的钱。这个判断对当下的投资节奏有直接含义：指望“效率革命”带来HBM需求回落的人，可能要再等一个周期。

那么下一场牌局，牌桌上坐着谁？SK海力士手握Rubin平台的时间窗口和混合键合的先发筹码；三星用ZHBM赌一个架构换代的翻盘局；美光以可靠性叙事换溢价；英伟达则通过开放互连，让更多人上桌替它买椅子。唯一确定的是：在775微米的天花板被真正拆掉之前，HBM的话语权会持续从存储厂，向握着XPU定义权的玩家扩散。

小结

775微米，是一个物理数字，更是一道产业分水岭。它把HBM推离了“标准品内卷”的旧轨道，逼出混合键合、垂直堆叠、base die定制化三条新战线，同时暴露了十余年未建晶圆厂的产能欠账。未来两年，看三类信号即可判断胜负手：混合键合的量产良率、ZHBM能否从概念走进样品、以及新晶圆厂的开工时间表。AI存储的故事，从“谁的层数多”，变成了“谁的架构对”。