30倍吞吐背后,HBM先撑不住了?
英伟达首次公布Vera Rubin NVL72片上实测,对比GB300每兆瓦吞吐最高提升30倍。本文拆解算力重新定价逻辑、SK海力士HBM5的775微米物理天花板,以及英特尔Diamond Rapids的x86侧布局,指出AI算力竞争已从单芯片转向GPU、存储、CPU与封装的系统性合谋。
30倍吞吐背后,HBM先撑不住了?
30倍,一个让投资人怀疑PPT的数字。
英伟达刚刚完成了史上第一次下一代旗舰机柜 Vera Rubin NVL72 的片上实测,而且直接拉来了 DeepSeek 最新的V4-Pro模型,跑最真实的「智能体编码」任务。结果:对比现役机皇 GB300 NVL72,每兆瓦吞吐量最高飙升30倍,Token成本最高暴降35倍。
“数据口径与出处:上述30倍与35倍,均出自英伟达官方发布的Vera Rubin NVL72片上实测(on-chip实测,非模拟或PPT推演)。测试口径为——对比基准:现役旗舰机柜 GB300 NVL72;模型:DeepSeek V4-Pro;负载:「智能体编码」任务(多轮工具调用+长上下文往返推理);指标:每兆瓦吞吐量(Tokens/s/MW)与单Token成本。两项数据均为同负载下的「最高值」,即最优配置点的结果,非全场景平均。
但真正有意思的,不是这30倍本身。而是当GPU狂奔时,谁在后面喘气——答案是SK海力士手里的HBM,和775微米那道物理墙。这篇文章,把一次实测数据背后的三条战线讲清楚。
🚀 片上首测:30倍吞吐,这次不是PPT
先说场景。
过去英伟达的「新卡首测」,业内默认带着一层滤镜:跑分是厂商挑的,负载是理想化的,PPT先行、实物半年后到。圈内流传一句玩笑:「发布会上的数字,先打七折再看。」
但这一次画风不太一样。英伟达把实测直接做在了片上,负载选的是「智能体编码」——不是跑个模型答几道题,而是让AI像程序员一样连续调用工具、多轮推理、长上下文往返。这正是当前大厂真实采购算力的用途。
结果拆开看,是两段跨越:
- 从H200到GB300 NVL72:真实Agent工作负载下,吞吐量最高提升30倍,成本大致翻倍;
- 从GB300 NVL72到Vera Rubin NVL72:吞吐量再次飙升最高30倍,整机架价格大致再翻倍。
| 代际 | 真实Agent吞吐 | 整机成本 | 核心变化 |
|---|---|---|---|
| H200 | 基线 | 基线 | 老一代旗舰 |
| GB300 NVL72 | 最高30倍 | 约2倍 | Blackwell Ultra机柜化 |
| Vera Rubin NVL72 | 较GB300再升最高30倍 | 约再翻倍 | 每兆瓦吞吐+30倍,Token成本-35倍 |
“口径说明:表中两段「最高30倍」为各自对比基准下的峰值提升,两段相乘即约900倍——这是「接近900倍」一说的来源。需注意:①900倍是Hopper到Rubin两个世代、同为Agent编码负载下的吞吐比,非跨负载通用结论;②各段数据均以英伟达官方实测口径为准,成本为整机架口径而非单卡口径。
两年时间,价格贵了4倍,速度换来了接近900倍的飞跃。网友的评论很扎心:「以前嫌H200三万美元一张贵,现在回头一看,H200居然连丐版都算不上了。」
产业逻辑在这里发生了质变:英伟达借这次实测公开宣布——LLM时代结束,Agent时代降临,以前的AI跑分基准全部作废。这不是修辞,是定价权的重新锚定。当算力按「每Token成本」而非「每TFLOPS」计价,单纯的峰值算力军备赛就变成了系统工程赛。
💰 价格翻四倍,换900倍速度:算力重新定价
一句圈内私下流传的话:现在买AI算力,买的不是芯片,是电费的去向。
这轮重新定价的核心,藏在「每兆瓦」三个字里。对云厂商和超大规模数据中心来说,功率才是真正的稀缺资源——机柜位、供电、散热,全是物理约束。Vera Rubin NVL72每兆瓦吞吐提升30倍、Token成本下降35倍,意味着同样一度电,能产出30倍的Agent工作产出。
这对下游意味着什么?
第一,采购逻辑变了。以前CFO看单卡价格,现在看「完成一个编码Agent任务全生命周期要多少Token、多少度电」。单位成本暴降,反而可能刺激总需求暴涨——这就是经典的杰文斯悖论:效率提升,消耗不减反增。
第二,价格翻倍变得「可接受」。整机架价格再翻倍听着吓人,但如果摊到每个Token上成本降了35倍,那么对真正跑Agent业务的客户来说,这不是涨价,是打折。据多位接近云厂商采购的人士透露,头部客户评估新一代机柜的指标清单里,「每兆瓦吞吐」已经排在「单卡算力」前面。
第三,也是英伟达最精明的一手:把性能叙事从「芯片」上移到「机柜」。NVL72这个后缀本身就是宣言——72颗GPU、CPU、NVSwitch、液冷,作为一个整体交付。竞争的单位从「一颗GPU」变成了「一个机柜」,这个定义权的转移,让对手很难在单点对标。
一位资深硬件工程师的说法颇具代表性:「以前比的是发动机,现在比的是整车能耗比,你光晒马力图已经没意义了。」
🔋 775微米天花板:HBM才是隐形主角
GPU在台前,HBM在幕后喘气。
这次实测数据的另一面,是一个物理极限的曝光:SK海力士公开指出,HBM堆叠体的总厚度被卡在775微米——这恰好是一片300毫米逻辑晶圆的标准厚度。堆到HBM这个代际,再往上叠,物理上就要顶穿天花板了。
这事的产业含义比想象中大。AI算力的性能,越来越不取决于GPU本身,而取决于数据能不能从HBM里够快地搬进计算核心。所谓「30倍吞吐」,一半功劳在GPU架构,另一半在存储墙被推高了多少。而存储墙现在撞上了晶圆厚度这个非常朴素的物理量。
SK海力士给出的两条路线图很清晰:
1. 混合键合(Hybrid Bonding)HBM5:抛弃微凸点,直接把die键合在一起,省下的高度和互连密度,用来突破775微米的堆叠极限;
2. MR-MUF工艺延续:这类先进封装材料方案将一路覆盖到Rubin世代,换句话说,英伟达的下一代平台,存储侧的钥匙握在SK海力士手里。
用一条简化的路线时间线看这场接力:
- H200(Hopper世代):三万美元一张的「旧贵」,如今成了性价比参照物的下限;
- GB300 NVL72(Blackwell Ultra):机柜化交付成型,Agent吞吐基准的上一任冠军;
- Vera Rubin NVL72:首次片上实测,每兆瓦吞吐登顶,MR-MUF工艺延续覆盖至Rubin;
- HBM5(混合键合):瞄准775微米天花板,为Rubin之后的堆叠密度续命。
产业逻辑很冷峻:存储厂第一次站在了AI算力叙事的C位附近。谁先搞定混合键合HBM5的良率,谁就掌握了下一代机柜定价权的一票。这也是为什么近两年HBM议价权的天平,持续向存储三巨头倾斜——GPU可以换架构,775微米换不掉。
🖥️ Diamond Rapids:别忽视了x86那一侧
机柜故事里,还有一个容易被忽略的角色:CPU。
就在英伟达晒出实测数据的同时,英特尔也掀开了下一代服务器CPU Diamond Rapids 至强的面纱:最高256个P-core,最高1.28GB的末级缓存,支持AVX 10.2指令集,基于18A制程节点,并且改用UCIe-S互连标准取代EMIB封装路线。
单看参数,这是x86服务器线的常规迭代。但放进AI机柜的语境里,值得多看两眼。
第一,Agent时代的负载结构变了。LLM时代的推理是「一次输入、一次输出」,CPU存在感弱;Agent是「连续多轮的工具调用、数据预处理、I/O调度」,CPU承担的粘合工作量显著上升。一台推理机柜里,CPU的价值密度在回升——这也是英伟达自己在Rubin平台上配了Vera CPU的原因,名字里「Vera」在前「Rubin」在后,不是随便排的。
第二,UCIe-S的转向值得玩味。采用开放互连标准取代自家的EMIB,意味着英特尔在为chiplet时代的「混搭」留门——未来服务器平台里,计算die、IO die、缓存die可以来自不同来源。这与整个产业从单die走向系统级拼装的大方向一致。
第三,18A制程是英特尔的背水一战。在AI算力需求爆炸、先进制程产能被GPU和HBM挤占的当下,x86服务器侧的每一代迭代,都是在争夺数据中心里那些「非GPU」的硅面积。据业内熟悉服务器采购链的人士观察,虽然GPU抢走了所有头条,但数据中心里x86 CPU的出货金额盘子并没有缩小——只是增长速度被AI叙事衬得黯淡了。
🧩 一台机柜,三条战线的合谋
把三条线索放在一起,图景才完整。
英伟达用Vera Rubin定义了「机柜即产品」的定价单位;SK海力士在775微米的物理墙前押注混合键合HBM5,决定存储侧的密度上限;英特尔用Diamond Rapids和UCIe-S守住数据中心CPU侧的席位,并为chiplet混搭时代铺路。三者看似各自发布,实则在争夺同一个东西:Agent时代数据中心的系统性份额。
机柜内的价值分布,行业目前只有方向性共识、缺乏可信的量化拆分:GPU计算片仍是价值大头,HBM存储与先进封装占比逐代上升,CPU与互连合计约占两成上下。在出现可靠的第三方拆机成本分析之前,这里不给具体比例——但趋势本身没有争议:每代GPU升级,HBM与封装的价值占比都在上升。
这个趋势对国内产业链的启示同样冷静:单点追峰值算力的窗口在收窄,而在先进封装、存储堆叠工艺、互连标准这些「机柜级」环节上,仍然存在结构性机会。地缘视角下也是如此——出口管制卡的是单点算力,但Agent时代的竞争力是系统能效比,能效比是可以用工程手段追的。
小结:比的是整车能耗比了
回到开头那个数字:价格4倍,速度900倍(口径见上文第一、二节标注:均为英伟达官方片上实测,Agent编码负载,峰值对比)。
英伟达这次实测真正宣布的,是算力评价体系的换代——从峰值算力到每兆瓦吞吐,从LLM跑分到真实Agent负载。而体系换代的代价,是把压力传导给了整条链:HBM撞上775微米墙,CPU重新找回存在感,封装从配角变成主角。
接下来值得盯的三个节点,逐一列清楚:
1. 混合键合HBM5的量产良率——这是775微米天花板能否被突破的关键。盯SK海力士的工程样品送样时间与首批客户验证结果;若2026年上半年仍无稳定良率数据,Rubin之后的堆叠路线就要重估;
2. Rubin世代机柜的实际交付节奏——盯英伟达从片上实测到整机柜规模出货的时间差,以及首批云厂商客户(谁先拿到、跑到什么负载)。「发布会到交付」的间隔,历来是检验30倍含金量的试金石;
3. 英特尔18A在数据中心的首个规模化落地——盯Diamond Rapids的量产时点与首批服务器订单。如果18A在数据中心侧再度跳票,x86在AI机柜里的席位将被Arm阵营和Vera CPU进一步挤压。
Agent时代的第一块多米诺骨牌已经推倒。存储的良率、机柜的交付、制程的兑现——三个节点任何一块倒下,都会改写下一个世代的权力分配。倒向哪边,2026年见分晓。