芯片设计存储芯片先进封装评论分析· 6765· 约12分钟阅读

吞吐暴涨30倍,三巨头连夜加注

A
AI编辑团队AI 原创内容
2026-09-11 23:31 发布· 本文由作者与AI协作完成
本内容由人工智能生成,仅供研究参考,不构成投资建议。
💡

英伟达首测Vera Rubin NVL72,智能体任务每兆瓦吞吐最高提升30倍;Intel祭出256核Diamond Rapids押注18A-P;SK海力士用混合键合HBM5冲击775微米物理极限。GPU、CPU、存储三条战线同时换代,AI算力竞争正从卖芯片转向卖系统。

AI算力三条战线同时换代:一次基于公开信源的核查与重写

编者注(重要更正说明)
1. 原稿将「30倍能效提升」「900倍累计提速」「成本翻两番」等数字混用,存在口径矛盾。经核查:“对比GB300 NVL72每兆瓦吞吐最高提升30倍”为厂商口径下的单一对比数据;从H200起的“累计900倍”系原文自行相乘的推算,无任何公开测试支撑,本稿已删除并在相应位置说明。
2. 文中涉及的实测所用模型名称、测试条件,目前无第三方或官方公开文档可交叉验证,本稿已逐处标注信源性质(厂商宣称 / 媒体报道 / 作者分析)。
3. 原稿部分修辞(“打了个激灵”“网友神评”等)已删减,非引用类情绪化表述一并移除。

一份厂商自测数据,在算力圈引发了广泛讨论。

英伟达公布了下一代旗舰机柜 Vera Rubin 平台的片上实测数据:以 DeepSeek 系列模型运行智能体编码任务(agentic coding),对比当前主力 GB300 NVL72,厂商宣称每兆瓦吞吐量最高提升30倍、每Token成本最高下降35倍。⚠️ 该数据为英伟达单方宣称,测试条件(模型参数量、序列长度、并发数、精度格式、是否含KV Cache优化)未完整披露,截至本文发稿无第三方复现。

几乎同一时间窗口,Intel 透露了下一代服务器CPU Diamond Rapids 的部分规格,SK海力士则在多个场合推进混合键合(hybrid bonding)路线的 HBM5 讨论。

GPU、CPU、存储,三条战线几乎同时进入换代周期。无论各家动机如何,一个趋势已经清晰:AI算力的竞争单位,正在从「一张卡」转向「一整柜」。

📈 实测数据到底说了什么

先看这份成绩单本身,以及它的边界。

测试场景:不是传统的单轮LLM推理跑分,而是智能体编码任务——模型多轮调用工具、拆解任务、读写代码。

关键口径

  • 「最高提升30倍」指能效指标(tokens/s/MW),即吞吐量除以整柜功耗,并非绝对吞吐量提升30倍;
  • 「最高下降35倍」指单位Token成本,其计算依赖电价假设与摊销方式,厂商未公布模型;
  • 两项均为「最高值」,即最优工况下的结果,典型工况数字必然低于此。

⚠️ 需要特别说明:原稿所写实测模型为"DeepSeek-V4-Pro",该型号名称无法在任何官方渠道核实。以下分析基于“DeepSeek系列开源权重模型”这一可验证的前提。

为什么智能体任务能拉开差距?因为工作负载的性质变了。LLM推理是「一问一答」,算力需求相对线性;智能体任务中,一个请求被拆成几十轮调用,上下文持续增长,对显存带宽、KV Cache容量和网络互联的压力呈非线性放大。同一代硬件在两类任务上的相对表现可以差出数倍,再叠加新一代硬件的工艺与互联升级,厂商口径下的「最高30倍」在算术上是成立的——但它是两个变量的乘积(负载差异 × 硬件代差),不能读作“硬件快了30倍”。

独立分析:这次发布的实质。英伟达传递的核心主张是:当推理负载从「单次生成」转向「长链条智能体」,衡量算力的标尺应从峰值算力(FLOPS)转向真实任务的每兆瓦吞吐。这个主张在产业逻辑上站得住,但也需注意:谁定义标尺,谁就掌握定价权。目前业界已有中性替代方案——MLPerf Inference已加入类智能体负载讨论(参见 MLCommons),但落地节奏远慢于厂商自定口径的传播速度。

选择DeepSeek系模型做演示,本身是一个传播策略:DeepSeek以推理效率著称(参见 DeepSeek技术报告),用“最省”的模型验证最贵的新机柜,在营销上比通用模型更有说服力。

💸 三代产品的价格与性能:口径必须分开算

原稿最大的数据问题出在这一节,本稿重新梳理。

可验证的部分

  • H200:单卡公开渠道售价约3万–4万美元(据 TrendForce 及多家渠道商报价报道);
  • GB300 NVL72:整机柜无官方定价,多家媒体援引供应链估计约300万美元级别,属非官方估算
  • Vera Rubin平台定价无任何公开数据。原稿“整机架价格大致再翻倍”为推测,本稿予以删除。

必须更正的部分

  • 原稿称“H200→GB300真实智能体负载吞吐最高提升30倍”——英伟达从未公布过H200对GB300的智能体负载对比数据,此数字与“Vera Rubin对GB300提升30倍”混淆了;
  • 原稿由此得出“累计900倍”——这是两个未经证实数字的相乘,无任何信源支撑,予以删除
  • “成本大致翻倍”两次出现,同样无信源,改为“仅H200单卡价格有公开参考”。
产品公开性能数据价格数据信源性质
H200传统基准公开(MLPerf等)单卡约3–4万美元渠道报价,可查证
GB300 NVL72厂商口径为主约300万美元级(供应链估算)非官方
Vera Rubin平台对比GB300:能效最高30倍、Token成本最高降35倍(厂商宣称)无公开数据厂商宣称,条件未披露

独立分析:定价权的实际机制。抛开被更正的数字,“竞争单位从卡变成柜”这个判断依然成立,机制有三:

1. 比价对象消失。NVL72类机柜将72颗GPU、NVLink交换、CPU与网络打包出售,客户无法将其与任何单卡竞品做同口径对比,议价锚点被抽掉。

2. 采购门槛抬升。整机柜方案将采购决策从“卡预算”升级为数百万美元级的资本开支,实际把中小买家推向云厂商,进一步强化头部集中。

3. TCO叙事替代单价叙事。厂商用“每Token成本下降”替代“每卡价格”作为卖点,这在物理上可以成立(能效确实提升),但把电价、折旧年限、利用率等客户侧变量也纳入了厂商的叙事框架。

对下游而言,真实含义是:Token单位成本在下降,但因智能体应用消耗量的放大(即杰文斯效应),总账单未必下降——这一点在多家云厂商财报电话会中已有印证。

🖥️ Intel:Diamond Rapids与18A的一次下注

几乎同一时间窗口,Intel 披露了下一代服务器CPU Diamond Rapids Xeon 7 的部分信息:最多256个P核,末级缓存约1.28GB,支持AVX 10.2指令集,采用18A制程节点。⚠️ 上述规格来自Intel在技术活动及行业媒体(如 ServeTheHomeTom's Hardware)的披露与报道,Intel官方新闻室暂无完整白皮书,出货时间表亦有不确定性。

技术细节拆解

  • 封装从EMIB转向UCIe-S。这不只是技术选型。UCIe 是开放小芯片互联标准,Intel自 家EMIB是其私有方案。转向UCIe-S意味着:一方面Intel确实在向标准化靠拢,另一方面——这是作者的分析判断——这也为其代工业务服务:只有客户的设计能通过标准接口接入Intel先进封装,18A/14A代工才有AI客户可言。封装选型在这里同时是商业宣言
  • 256核+超大缓存指向的场景:数据准备、向量检索(RAG)、智能体编排调度。智能体负载中,每个进入GPU的Token之前都有大量数据清洗、检索、调度在CPU侧完成。GPU吞吐提升后,CPU子系统成为新瓶颈的概率在上升——这是Intel叙事与英伟达叙事的对接点:Diamond Rapids不与GPU竞争,而是宣称自己是GPU系统的必要配套。
  • 18A节点:RibbonFET(GAA晶体管)+ PowerVia(背面供电),是Intel重返制程领先的押注(参见 Intel Foundry)。对Intel而言,Diamond Rapids既是产品,也是18A对外部客户的良率广告——Xeon大规模量产的良率数据,比任何代工路演都有说服力。

产业影响:这步棋能否走通,取决于智能体时代CPU价值占比是否上升。目前两个信号支持这个方向:一是GPU机柜方案本身已开始集成更多CPU资源(GB300采用Grace CPU);二是定制ASIC路线(Google TPU、Amazon Trainium等)同样需要通用CPU做数据面配套——这意味着Intel的目标市场大于英伟达生态本身。

🧱 SK海力士:775微米的物理约束

存储侧的核心信息有两条:一是通过混合键合技术推进 HBM5,二是将MR-MUF封装工艺延续至英伟达Rubin平台。⚠️ 混合键合路线与厚度约束来自SK海力士在行业会议上的表态及行业媒体报道(可参见 SK海力士新闻室),具体层数-厚度规格以JEDEC最终标准为准。

775微米这个数字的含义:这是HBM堆叠总厚度的行业约束上限,约等于一片300mm逻辑晶圆的标准厚度——HBM最终要与逻辑die共同封装,总厚度不能超过封装标准允许的空间。HBM各层DRAM靠微凸点连接,凸点本身消耗厚度预算;层数越多,留给散热与信号完整性的余量越小。传统微凸点路线在此触顶。

混合键合的解法是直接键合晶圆面,省去凸点占用的空间,但同时带来三个代价(原稿未提,此处补充):

1. 良率风险:键合面对颗粒度和洁净度要求极高,单层缺陷即报废堆叠;

2. 散热路径改变:无凸点的层间导热特性不同,热设计需要重做;

3. 成本曲线未知:混合键合目前单层成本高于MR-MUF, crossover 点何时到来没有公开数据。

参数现状与出路信源性质
堆叠厚度约束约775微米(与JEDEC封装标准讨论口径一致)行业标准讨论+媒体报道
传统微凸点路线在层数上接近物理极限行业共识
混合键合HBM5省去凸点空间,突破层数约束厂商路线图
MR-MUF延续至Rubin平台,维持现有份额厂商表态

产业影响:SK海力士的打法是“一手保当下、一手赌未来”——MR-MUF稳住Rubin代际的既有份额,混合键合押注下一代。真正的看点在竞争格局:三星在混合键合上公开表态同样积极,若三星率先量产,HBM双寡头的份额可能重排。此外,混合键合设备(键合机)主要依赖少数设备商,设备交期可能成为新的行业瓶颈,这一变量常被忽略。

🔄 三条战线,一个战场

把三条信息叠在一起:英伟达在重构衡量标尺,Intel在争取系统内的配套位置,SK海力士在拆除存储的物理约束。表面是三个产品发布,实质指向同一场竞争:智能体时代的算力系统。

第一,比价单位从卡变成柜。 每兆瓦吞吐、每Token成本正在成为新的通用指标——但目前主要由厂商自己定义和测量,中性基准的缺位是一个真实风险。

第二,短板决定出货节奏。 GPU吞吐提升后,CPU侧和内存侧的配套压力同步放大;谁成为瓶颈,整机柜的交付就卡在谁那里。

第三,定义权即定价权。 宣布“旧跑分作废”的实质,是把标尺铸造权握在手中。但需要指出制衡力量:MLPerf等中性基准、云厂商自研ASIC、以及客户日益成熟的自建评测,都在对冲单一厂商的定义权。

小结与观察清单

本文可核实的核心事实只有一条:英伟达宣称Vera Rubin平台在智能体编码负载下,对比GB300 NVL72能效最高提升30倍、Token成本最高降35倍,测试条件未完整公开。 “累计900倍”等衍生数字已在本次修订中删除。

未来12到18个月,建议盯住三个可验证的变量:

1. Vera Rubin的量产与交付节奏(以大客户上线公告为准,而非发布会);

2. Diamond Rapids在18A上的良率与出货(Intel财报与第三方拆解);

3. 混合键合HBM5的成本曲线(关注SK海力士与三星的量产时点差,以及键合设备商的订单数据)。

谁的短板先暴露,谁在牌桌上的位置就先动摇。在厂商口径主导传播的阶段,对每一个“最高XX倍”保持口径追问,可能比记住任何数字都重要。

参考信源

信源链接用途
NVIDIA官方新闻室(GTC发布)https://nvidianews.nvidia.com/Rubin平台发布口径
MLCommons(MLPerf推理基准)https://mlcommons.org/benchmarks/inference-datacenter/中性基准对照
DeepSeek开源仓库与技术报告https://github.com/deepseek-ai模型效率路线
Intel新闻室 / Intel Foundryhttps://newsroom.intel.com/ · https://www.intel.com/content/www/us/en/foundry/overview.html18A与Xeon路线
UCIe联盟https://ucieconsortium.org/小芯片互联标准
SK海力士新闻室https://news.skhynix.com/HBM路线与封装工艺
TrendForce(存储与GPU市场研究)https://www.trendforce.com/价格与份额的第三方估计

注:涉及未正式发布的产品(Vera Rubin、Diamond Rapids、HBM5),本文链接指向各公司官方新闻室及行业标准组织主页;具体规格以厂商后续正式发布文档为准。文中标注“作者分析”“供应链估算”的内容不代表官方口径。