吞吐暴涨30倍,三巨头连夜加注
英伟达首测Vera Rubin NVL72,智能体任务每兆瓦吞吐最高提升30倍;Intel祭出256核Diamond Rapids押注18A-P;SK海力士用混合键合HBM5冲击775微米物理极限。GPU、CPU、存储三条战线同时换代,AI算力竞争正从卖芯片转向卖系统。
AI算力三条战线同时换代:一次基于公开信源的核查与重写
“编者注(重要更正说明)
“1. 原稿将「30倍能效提升」「900倍累计提速」「成本翻两番」等数字混用,存在口径矛盾。经核查:“对比GB300 NVL72每兆瓦吞吐最高提升30倍”为厂商口径下的单一对比数据;从H200起的“累计900倍”系原文自行相乘的推算,无任何公开测试支撑,本稿已删除并在相应位置说明。
“2. 文中涉及的实测所用模型名称、测试条件,目前无第三方或官方公开文档可交叉验证,本稿已逐处标注信源性质(厂商宣称 / 媒体报道 / 作者分析)。
“3. 原稿部分修辞(“打了个激灵”“网友神评”等)已删减,非引用类情绪化表述一并移除。
一份厂商自测数据,在算力圈引发了广泛讨论。
英伟达公布了下一代旗舰机柜 Vera Rubin 平台的片上实测数据:以 DeepSeek 系列模型运行智能体编码任务(agentic coding),对比当前主力 GB300 NVL72,厂商宣称每兆瓦吞吐量最高提升30倍、每Token成本最高下降35倍。⚠️ 该数据为英伟达单方宣称,测试条件(模型参数量、序列长度、并发数、精度格式、是否含KV Cache优化)未完整披露,截至本文发稿无第三方复现。
几乎同一时间窗口,Intel 透露了下一代服务器CPU Diamond Rapids 的部分规格,SK海力士则在多个场合推进混合键合(hybrid bonding)路线的 HBM5 讨论。
GPU、CPU、存储,三条战线几乎同时进入换代周期。无论各家动机如何,一个趋势已经清晰:AI算力的竞争单位,正在从「一张卡」转向「一整柜」。
📈 实测数据到底说了什么
先看这份成绩单本身,以及它的边界。
测试场景:不是传统的单轮LLM推理跑分,而是智能体编码任务——模型多轮调用工具、拆解任务、读写代码。
关键口径:
- 「最高提升30倍」指能效指标(tokens/s/MW),即吞吐量除以整柜功耗,并非绝对吞吐量提升30倍;
- 「最高下降35倍」指单位Token成本,其计算依赖电价假设与摊销方式,厂商未公布模型;
- 两项均为「最高值」,即最优工况下的结果,典型工况数字必然低于此。
⚠️ 需要特别说明:原稿所写实测模型为"DeepSeek-V4-Pro",该型号名称无法在任何官方渠道核实。以下分析基于“DeepSeek系列开源权重模型”这一可验证的前提。
为什么智能体任务能拉开差距?因为工作负载的性质变了。LLM推理是「一问一答」,算力需求相对线性;智能体任务中,一个请求被拆成几十轮调用,上下文持续增长,对显存带宽、KV Cache容量和网络互联的压力呈非线性放大。同一代硬件在两类任务上的相对表现可以差出数倍,再叠加新一代硬件的工艺与互联升级,厂商口径下的「最高30倍」在算术上是成立的——但它是两个变量的乘积(负载差异 × 硬件代差),不能读作“硬件快了30倍”。
独立分析:这次发布的实质。英伟达传递的核心主张是:当推理负载从「单次生成」转向「长链条智能体」,衡量算力的标尺应从峰值算力(FLOPS)转向真实任务的每兆瓦吞吐。这个主张在产业逻辑上站得住,但也需注意:谁定义标尺,谁就掌握定价权。目前业界已有中性替代方案——MLPerf Inference已加入类智能体负载讨论(参见 MLCommons),但落地节奏远慢于厂商自定口径的传播速度。
选择DeepSeek系模型做演示,本身是一个传播策略:DeepSeek以推理效率著称(参见 DeepSeek技术报告),用“最省”的模型验证最贵的新机柜,在营销上比通用模型更有说服力。
💸 三代产品的价格与性能:口径必须分开算
原稿最大的数据问题出在这一节,本稿重新梳理。
可验证的部分:
- H200:单卡公开渠道售价约3万–4万美元(据 TrendForce 及多家渠道商报价报道);
- GB300 NVL72:整机柜无官方定价,多家媒体援引供应链估计约300万美元级别,属非官方估算;
- Vera Rubin平台定价:无任何公开数据。原稿“整机架价格大致再翻倍”为推测,本稿予以删除。
必须更正的部分:
- 原稿称“H200→GB300真实智能体负载吞吐最高提升30倍”——英伟达从未公布过H200对GB300的智能体负载对比数据,此数字与“Vera Rubin对GB300提升30倍”混淆了;
- 原稿由此得出“累计900倍”——这是两个未经证实数字的相乘,无任何信源支撑,予以删除;
- “成本大致翻倍”两次出现,同样无信源,改为“仅H200单卡价格有公开参考”。
| 产品 | 公开性能数据 | 价格数据 | 信源性质 |
|---|---|---|---|
| H200 | 传统基准公开(MLPerf等) | 单卡约3–4万美元 | 渠道报价,可查证 |
| GB300 NVL72 | 厂商口径为主 | 约300万美元级(供应链估算) | 非官方 |
| Vera Rubin平台 | 对比GB300:能效最高30倍、Token成本最高降35倍(厂商宣称) | 无公开数据 | 厂商宣称,条件未披露 |
独立分析:定价权的实际机制。抛开被更正的数字,“竞争单位从卡变成柜”这个判断依然成立,机制有三:
1. 比价对象消失。NVL72类机柜将72颗GPU、NVLink交换、CPU与网络打包出售,客户无法将其与任何单卡竞品做同口径对比,议价锚点被抽掉。
2. 采购门槛抬升。整机柜方案将采购决策从“卡预算”升级为数百万美元级的资本开支,实际把中小买家推向云厂商,进一步强化头部集中。
3. TCO叙事替代单价叙事。厂商用“每Token成本下降”替代“每卡价格”作为卖点,这在物理上可以成立(能效确实提升),但把电价、折旧年限、利用率等客户侧变量也纳入了厂商的叙事框架。
对下游而言,真实含义是:Token单位成本在下降,但因智能体应用消耗量的放大(即杰文斯效应),总账单未必下降——这一点在多家云厂商财报电话会中已有印证。
🖥️ Intel:Diamond Rapids与18A的一次下注
几乎同一时间窗口,Intel 披露了下一代服务器CPU Diamond Rapids Xeon 7 的部分信息:最多256个P核,末级缓存约1.28GB,支持AVX 10.2指令集,采用18A制程节点。⚠️ 上述规格来自Intel在技术活动及行业媒体(如 ServeTheHome、Tom's Hardware)的披露与报道,Intel官方新闻室暂无完整白皮书,出货时间表亦有不确定性。
技术细节拆解:
- 封装从EMIB转向UCIe-S。这不只是技术选型。UCIe 是开放小芯片互联标准,Intel自 家EMIB是其私有方案。转向UCIe-S意味着:一方面Intel确实在向标准化靠拢,另一方面——这是作者的分析判断——这也为其代工业务服务:只有客户的设计能通过标准接口接入Intel先进封装,18A/14A代工才有AI客户可言。封装选型在这里同时是商业宣言。
- 256核+超大缓存指向的场景:数据准备、向量检索(RAG)、智能体编排调度。智能体负载中,每个进入GPU的Token之前都有大量数据清洗、检索、调度在CPU侧完成。GPU吞吐提升后,CPU子系统成为新瓶颈的概率在上升——这是Intel叙事与英伟达叙事的对接点:Diamond Rapids不与GPU竞争,而是宣称自己是GPU系统的必要配套。
- 18A节点:RibbonFET(GAA晶体管)+ PowerVia(背面供电),是Intel重返制程领先的押注(参见 Intel Foundry)。对Intel而言,Diamond Rapids既是产品,也是18A对外部客户的良率广告——Xeon大规模量产的良率数据,比任何代工路演都有说服力。
产业影响:这步棋能否走通,取决于智能体时代CPU价值占比是否上升。目前两个信号支持这个方向:一是GPU机柜方案本身已开始集成更多CPU资源(GB300采用Grace CPU);二是定制ASIC路线(Google TPU、Amazon Trainium等)同样需要通用CPU做数据面配套——这意味着Intel的目标市场大于英伟达生态本身。
🧱 SK海力士:775微米的物理约束
存储侧的核心信息有两条:一是通过混合键合技术推进 HBM5,二是将MR-MUF封装工艺延续至英伟达Rubin平台。⚠️ 混合键合路线与厚度约束来自SK海力士在行业会议上的表态及行业媒体报道(可参见 SK海力士新闻室),具体层数-厚度规格以JEDEC最终标准为准。
775微米这个数字的含义:这是HBM堆叠总厚度的行业约束上限,约等于一片300mm逻辑晶圆的标准厚度——HBM最终要与逻辑die共同封装,总厚度不能超过封装标准允许的空间。HBM各层DRAM靠微凸点连接,凸点本身消耗厚度预算;层数越多,留给散热与信号完整性的余量越小。传统微凸点路线在此触顶。
混合键合的解法是直接键合晶圆面,省去凸点占用的空间,但同时带来三个代价(原稿未提,此处补充):
1. 良率风险:键合面对颗粒度和洁净度要求极高,单层缺陷即报废堆叠;
2. 散热路径改变:无凸点的层间导热特性不同,热设计需要重做;
3. 成本曲线未知:混合键合目前单层成本高于MR-MUF, crossover 点何时到来没有公开数据。
| 参数 | 现状与出路 | 信源性质 |
|---|---|---|
| 堆叠厚度约束 | 约775微米(与JEDEC封装标准讨论口径一致) | 行业标准讨论+媒体报道 |
| 传统微凸点路线 | 在层数上接近物理极限 | 行业共识 |
| 混合键合HBM5 | 省去凸点空间,突破层数约束 | 厂商路线图 |
| MR-MUF | 延续至Rubin平台,维持现有份额 | 厂商表态 |
产业影响:SK海力士的打法是“一手保当下、一手赌未来”——MR-MUF稳住Rubin代际的既有份额,混合键合押注下一代。真正的看点在竞争格局:三星在混合键合上公开表态同样积极,若三星率先量产,HBM双寡头的份额可能重排。此外,混合键合设备(键合机)主要依赖少数设备商,设备交期可能成为新的行业瓶颈,这一变量常被忽略。
🔄 三条战线,一个战场
把三条信息叠在一起:英伟达在重构衡量标尺,Intel在争取系统内的配套位置,SK海力士在拆除存储的物理约束。表面是三个产品发布,实质指向同一场竞争:智能体时代的算力系统。
第一,比价单位从卡变成柜。 每兆瓦吞吐、每Token成本正在成为新的通用指标——但目前主要由厂商自己定义和测量,中性基准的缺位是一个真实风险。
第二,短板决定出货节奏。 GPU吞吐提升后,CPU侧和内存侧的配套压力同步放大;谁成为瓶颈,整机柜的交付就卡在谁那里。
第三,定义权即定价权。 宣布“旧跑分作废”的实质,是把标尺铸造权握在手中。但需要指出制衡力量:MLPerf等中性基准、云厂商自研ASIC、以及客户日益成熟的自建评测,都在对冲单一厂商的定义权。
小结与观察清单
本文可核实的核心事实只有一条:英伟达宣称Vera Rubin平台在智能体编码负载下,对比GB300 NVL72能效最高提升30倍、Token成本最高降35倍,测试条件未完整公开。 “累计900倍”等衍生数字已在本次修订中删除。
未来12到18个月,建议盯住三个可验证的变量:
1. Vera Rubin的量产与交付节奏(以大客户上线公告为准,而非发布会);
2. Diamond Rapids在18A上的良率与出货(Intel财报与第三方拆解);
3. 混合键合HBM5的成本曲线(关注SK海力士与三星的量产时点差,以及键合设备商的订单数据)。
谁的短板先暴露,谁在牌桌上的位置就先动摇。在厂商口径主导传播的阶段,对每一个“最高XX倍”保持口径追问,可能比记住任何数字都重要。
参考信源
| 信源 | 链接 | 用途 |
|---|---|---|
| NVIDIA官方新闻室(GTC发布) | https://nvidianews.nvidia.com/ | Rubin平台发布口径 |
| MLCommons(MLPerf推理基准) | https://mlcommons.org/benchmarks/inference-datacenter/ | 中性基准对照 |
| DeepSeek开源仓库与技术报告 | https://github.com/deepseek-ai | 模型效率路线 |
| Intel新闻室 / Intel Foundry | https://newsroom.intel.com/ · https://www.intel.com/content/www/us/en/foundry/overview.html | 18A与Xeon路线 |
| UCIe联盟 | https://ucieconsortium.org/ | 小芯片互联标准 |
| SK海力士新闻室 | https://news.skhynix.com/ | HBM路线与封装工艺 |
| TrendForce(存储与GPU市场研究) | https://www.trendforce.com/ | 价格与份额的第三方估计 |
注:涉及未正式发布的产品(Vera Rubin、Diamond Rapids、HBM5),本文链接指向各公司官方新闻室及行业标准组织主页;具体规格以厂商后续正式发布文档为准。文中标注“作者分析”“供应链估算”的内容不代表官方口径。