算力狂飙,内存墙却越砌越高
Hot Chips 2026上美光研究员警告内存墙正在扩大:AI算力每两年翻3倍,HBM却不到2倍。本文从HBM4的工程极限、英伟达接触韩国Rebellions、上海十五五规划点名存储芯片三条线索,拆解AI产业的决胜逻辑为何正在从制程竞赛转向存储与封装的交界处。
AI的算力每两年翻3倍,内存带宽却连2倍都追不上——这堵越砌越高的墙,正成为整条产业链的新焦点。过去我们习惯了用制程节点丈量芯片产业的进退,但从斯坦福的Hot Chips 2026会场,到英伟达伸向韩国创业公司的橄榄枝,再到上海十五五规划里被点名的存储芯片,信号已经足够清晰:AI下半场的胜负手,正在从计算转向搬运数据的那个环节。
🧱 一堵越砌越高的墙
在AI的世界里,搬数据比算数据更贵。
8月23日,斯坦福大学,Hot Chips 2026半导体会议。美光HBM设计架构研究员Raghu Sreeramaneni站上讲台,给出了一个不太让人乐观的判断:内存墙不仅存在,情况还在恶化。
所谓内存墙,指的是负责计算的半导体器件速度不断提升,而存储数据的内存无法跟上,导致整个系统被拖慢。这本是个老问题,但AI把它放大到了前所未有的程度。
Sreeramaneni给出的数据很直接:人工智能加速器的计算性能以每两年3倍的速度发展,同期HBM的发展速度却不到每两年2倍。两条曲线之间的裂口,正在逐年扩大。
他的比喻很朴素:无论计算设备跑得多快,如果输送数据的通道狭窄,最终都会因速度过慢而停滞不前。换句话说,GPU堆再多晶体管,数据供不上来,算力就是空转。
这解释了当前AI算力产业链里一个反直觉的现象——真正稀缺的不是最先进的逻辑制程,而是HBM产能。计算端的军备竞赛跑得太快,存储端用面积换带宽的老办法,已经快追不上了。
业内私下流传的一句话是:今天评价一家AI芯片公司,先别看它FLOPS多少,先问它HBM从哪来。
🔥 邮票大小的地方,挤下八个存储巨兽
HBM可能是当下半导体工业里最难的一件产品。
Sreeramaneni在会上举了一个最新的HBM封装案例:两块GPU和八块12层HBM4显存集成于一体。结果是什么?约90%的半导体面积都用于存储——存储面积是负责计算的GPU的八倍多。
这个比例背后,是内存行业正在承受的供应压力。HBM靠面积换带宽,制造相同存储容量时,HBM消耗的晶圆数量约是普通DRAM(DDR5)的3倍。而且随着技术升级,这个差距还在扩大:速度越快、芯片尺寸越大、堆叠层数越多,需要的晶圆面积就越大。这也是Sreeramaneni判断内存行业将持续短缺的重要依据。
散热则是另一个正在升格为头号难题的变量。HBM是多层堆叠的DRAM,底层产生的热量最多,冷却系统却在顶部——冷量必须穿透所有层,才能抵达热点最集中的区域。Sreeramaneni透露,业内已经开始先计算散热,再据此调整芯片结构,设计流程整个倒过来了。
他的总结很精辟:HBM需要把所有设计、工艺和封装技术,整合进一枚不超过邮票大小的芯片。
同场会议上,SK海力士美国公司副总裁Lee Jae-sik给出了几乎一致的技术判断:HBM需要内存厂商、GPU设计商、代工厂和封装厂商携手,才能进一步优化。两大存储巨头在斯坦福异口同声,这不是巧合,而是产业共识——单点技术突破已经不够了,HBM4是个系统工程。
| 维度 | 现状数据 | 产业含义 |
|---|---|---|
| HBM4封装构成 | 2块GPU+8块12层HBM4 | 封装复杂度陡增 |
| 面积分配 | 约90%面积用于存储 | 存储成绝对主体 |
| 晶圆消耗 | 约为DDR5的3倍 | 内存供应持续紧张 |
| 发展速度差 | 计算3倍 vs HBM不到2倍(每两年) | 内存墙持续扩大 |
| 散热设计 | 热源在底层 冷却在顶部 | 先算散热再定结构 |
🤝 英伟达伸手韩国:推理时代的补链逻辑
墙越高,想翻墙的人就越多。
据EE Times报道,英伟达正与韩国推理芯片创业公司Rebellions洽谈技术合作、投资乃至收购。一家市值体量与其完全不在一个量级的巨无霸,去向一家韩国小公司示好,这个动作本身就值得细品。
背景是英伟达的推理转向。推理与训练的资源画像完全不同:训练吃算力峰值,推理更吃内存带宽和单位成本——每一次用户提问,数据都要在内存和计算单元之间反复搬运。内存墙对推理场景的杀伤,比对训练更直接。
也就是说,英伟达这笔潜在交易的方向性,和美光研究员的警告是同一件事的两面:当带宽成为瓶颈,巨头需要的不只是更强的GPU,而是围绕内存和推理重构整个技术栈。无论是技术合作、参股还是并购,本质上都是在为推理时代补链。
对Rebellions这类专注推理优化的公司而言,被英伟达锁定,也印证了推理赛道本身的价值重估。过去几年,创业公司的叙事是训练芯片挑战英伟达;现在风向变了——挑战不成,就加入巨头围绕推理和内存重建的版图。
据多位接近产业的人士观察,巨头的投资并购重心,正在从单纯的GPU设计团队,转向那些在内存带宽利用、推理效率上有独门功夫的标的。这场谈判无论结果如何,都已经说明问题:内存墙之下,连英伟达也承认,光靠GPU不够了。
📋 上海的清单:存储芯片被点名到了台前
墙的问题,不止硅谷和韩国在解。
上海市人民政府印发《上海市加快推进新型工业化构建现代化产业体系十五五规划》,其中对集成电路的表述颇具信息量:坚持全链突围、集群进阶,全链条推动集成电路关键核心技术攻关,聚焦张江、临港、嘉定核心区域,建设一体两翼世界级产业集群。
最值得注意的是芯片层面的点名顺序:高性能算力芯片、通用处理器芯片、存储芯片、互联芯片和智能传感器,目标是达到国际先进水平。存储与算力、处理器并列出现在同一份清单头部,与全球AI产业正在发生的重心转移高度呼应。
规划还给出了一条清晰的推进路径:
- 设计端:推动EDA、IP核高端化,培育行业龙头,加快并购整合与产业链融合;
- 制造端:加快重大产线项目建设,推动工艺加速迭代和产能跃升,建强特色工艺;
- 封装端:加快先进封装技术产业化;
- 装备材料端:提升装备材料零部件能级,体系化、平台化发展。
把这份清单和Hot Chips会场上的技术判断对照着看,会发现逻辑惊人地一致:Sreeramaneni说HBM的突破在于转向颠覆性的工艺和封装技术,Lee Jae-sik说需要设计、代工、封装四方携手——而上海规划里,恰恰是把制造、封装、装备材料作为独立条目重点部署。先进封装从配角升格为产业化的主攻方向之一,正是对内存墙时代的直接回应。
💡 决胜点在工艺和封装的交界处
三条线索,指向同一个拐点。
美光的警告说明,内存墙不是靠堆层数就能解决的小修小补问题,需要打破计算和存储之间界限的新设计;英伟达接触Rebellions说明,连生态最强的一方也在为推理时代的内存效率布局;上海的十五五清单说明,后发地区的追赶路径,也把存储和先进封装放到了与算力芯片同等的位置。
如果把这些拼在一起,可以勾勒出未来几年AI算力产业的竞争主线:
换句话说,决胜点不再单纯属于某一个环节,而属于能把内存、逻辑、代工工艺和封装整合到一枚邮票大小芯片上的那股合力。HBM的3倍晶圆消耗决定了它是产能稀缺品,散热倒推设计的现实决定了它必须多方协同——谁整合能力强,谁就握有下一阶段的定价权。
对产业链上的各方,这意味着三件事值得持续跟踪:一是HBM4的量产爬坡与散热方案的落地节奏;二是英伟达与Rebellions这类交易的走向,它标志着推理生态的整合速度;三是国内存储与先进封装产能的建设进度,这决定了内存墙时代的国产位置。
小结:内存墙越砌越高,但墙的方向变了——过去我们问制程能走多远,现在要问数据能跑多快。美光把话说透:HBM需要颠覆性的工艺和封装技术,这可能就是内存行业当前竞争的决胜点。当巨头开始为带宽收购公司、当地方规划把存储芯片写进头部清单,一个旧共识正在瓦解:AI的下一程,算力不再稀缺,稀缺的是把数据喂饱算力的能力。谁能拆掉计算与存储之间的那堵墙,谁就拿到下一张船票。