谷歌拆旧服务器捡内存,咋想的?
AI产业瓶颈正从算力转向内存:谷歌拆解退役服务器回收DDR4救急,英伟达给Rubin Ultra砍HBM降配,省下的钱流向Scale-up网络,博通则押注GW级TPU订单。内存荒正在重写AI硬件的价值分配。
当谷歌开始把退役服务器搬回机房、一颗颗拆下DDR4内存条的时候,你就该意识到:AI产业的钱和焦虑,已经从GPU转移到了内存上。
这不是段子,也不是标题党。2026年9月初,谷歌供应链基础设施高级总监尼基尔·切里安(Nikhil Cherian)在行业峰会上亲口确认了这件事。与此同时,英伟达被曝给下一代旗舰降配HBM,研究机构算了一笔账:省下来的钱,一分没少花,只是换了个地方。
一句话概括当下的局面:算力不缺了,缺的是内存;内存省下的钱,正在流向网络。
“说明:本文涉及两家研究/媒体信源的关键数据,口径不同,先说清楚——Wccftech报道引用的是AI服务器整机BOM物料成本口径(只算元器件采购价),SemiAnalysis算的是英伟达产品总资本成本口径(含整机系统)。两组数字不可直接对比,下文分别标注。
📉 瓶颈换了位置:从算力焦虑到内存焦虑
金句先行:过去两年大家担心“买不到卡”,现在大家担心“卡买到了,喂不饱”。
切里安的原话很直白:人工智能产业的核心瓶颈,已经从“算力不足”转变为“内存受限”。这不是一家云厂商的抱怨,而是整个产业的共同体感。
数据更能说明问题的严重程度。据Wccftech报道援引的供应链数据(口径:整机BOM物料成本),在典型的AI服务器中,高性能内存的物料成本占比已经高达约75%——一台AI服务器,四分之三的元器件采购费用压在内存上。放到英伟达最新的产品上,换一个口径算(SemiAnalysis测算,口径:产品总资本成本),HBM和DRAM涨价之后,内存也占到了英伟达产品总成本的约40%。两个口径一高一低并不矛盾:BOM口径放大了内存权重,资本成本口径则把网络、整机、供电散热一起算了进来——但无论用哪把尺子,量出来的结论一致:内存已经是AI硬件成本的第一大头。
内存为什么突然成了卡脖子环节?逻辑链条其实很清晰:
HBM本质上是把DRAM堆叠起来贴在GPU旁边,用的是同一条产业链、同一批上游产能。HBM需求爆发,先吃掉先进制程产能,再向上挤压常规DRAM的供应,最后连服务器用的DDR4、DDR5都跟着涨价。内存紧缺从来不是单一产品的问题,而是整条DRAM产业链的连锁反应。
于是,就有了谷歌拆机捡内存这一幕。
🔧 拆机救急:谷歌的“内存内循环”
金句先行:当一家全球顶级云厂商开始拆旧服务器捡内存,说明什么备选方案都用过了。
根据Wccftech的报道(单一媒体信源,谷歌未就此置评),谷歌的做法颇为直接:有计划地将退役服务器重新调回机房,拆解并回收其中仍可使用的DDR4内存模组,构建起一套内部循环利用的供应链体系。
更值得关注的是第二个细节——在某些应用场景中,谷歌甚至已经被迫采用相对保守的方案:用DDR4内存模组替代新型AI服务器原计划搭载的DDR5模组。为此,公司专门设计了硬件转接卡,让上一代内存方案能够接入新一代AI服务器系统。
给最先进的AI服务器做DDR4转接卡,这个画面的工程喜感很强,但背后的逻辑非常严肃:高端内存短缺已经严重到值得为兼容性付出额外的设计和验证成本。
当然,谷歌不是只有这条“捡破烂”路线,它的主路径依然在堆最好的硬件。面向推理任务优化的TPUv8i芯片,采用了专用分层存储体系:整机层面依托高速DDR5内存做数据预处理,每颗TPUv8i芯片还配备288GB HBM3e高带宽内存,兼顾容量与带宽。
软件端的动作同样密集:谷歌持续调整底层函数库、模型架构及KV缓存压缩算法,尽可能降低单位算力下的内存开销。
硬件上分层、软件上压缩、供应链上回收——三管齐下,说明内存缺口不是短期阵痛,而是一个需要系统性应对的结构性问题。据多位接近云厂商供应链的人士私下透露(单一匿名信源,未经独立核实),这种“什么招都用”的状态,在过去几个季度正在变成行业常态,而非谷歌一家的特殊操作。
✂️ 降配的艺术:Rubin Ultra砍掉的HBM
金句先行:旗舰产品做减法,从来不是技术退步,而是算的是另一笔账。
SemiAnalysis近期发布报告(下文降配数据均出自该报告),对英伟达Rubin Ultra的内存降配方案做了拆解。核心变化一句话:HBM显存规格从HBM4E 12-Hi(384GB)降到了HBM4 8-Hi(192GB),容量直接砍半,三星电子正配合其要求开发8层HBM产品。
这个变化不孤立。TrendForce集邦咨询研报指出,自2026年第三季起,英伟达对Rubin Ultra的HBM配置已从HBM4e 12hi,改为并行评估HBM4e 8hi、HBM4 12hi、HBM4 8hi等多种设计。而且不止英伟达一家——部分云端服务供应商(CSP)也在考虑调降下一代自研ASIC的HBM容量设计。
我们把核心账目摆成一张表(数据出处:SemiAnalysis,口径为总资本成本):
| 项目 | 降配前 | 降配后 | 变化 |
|---|---|---|---|
| HBM规格 | HBM4E 12-Hi | HBM4 8-Hi | 层数下降 |
| 单卡显存 | 384GB | 192GB | 降50% |
| HBM成本 | 基准 | 降低50%以上 | 大幅节省 |
| 内存占总资本成本比例 | 约40% | 约28% | 降12个百分点 |
注意一个关键判断:SemiAnalysis强调,即使考虑到2026年HBM价格上涨的预期,内存成本占总资本成本的比例也将从40%降至28%。
为什么敢砍?因为价值重心在迁移。随着单卡显存下调带来的性能缺口,英伟达不再一味追求堆料,转而依靠大规模集群互联来补——单卡给不了你的容量,让整个机架、整个集群给你。
换句话说,英伟达的降配不是省钱,是搬家。
🔀 钱去哪了:网络吃了内存的预算
金句先行:内存占比降下来的12个百分点,一分没剩,全被网络吃掉了。
SemiAnalysis的拆解给出了最关键的数字:以NVL576 NPO SKU来看,随着光模块取代机架间互连,纵向扩展网络(Scale-up Networking)成本占机架总支出的比例从4%增长到12%,增长了两倍。(出处:SemiAnalysis,口径:机架总支出。)
这不是简单的此消彼长,而是AI硬件价值创造逻辑的重构。华泰证券的判断是:产品代际迭代正在将价值创造从单芯片性能外溢至网络、机柜与系统集成,超节点和AI工厂的系统级交付能力将更为关键。随着单通道速率持续提升,机柜内外的传输距离、功耗和可靠性约束更加突出,光互连向Scale-up域渗透的路径正在清晰化。
国金证券则从制造难度角度做了补充:Rubin Ultra NVL576原定2027年下半年推出,Kyber机架存在制造延期传闻,平台功耗密度与互联复杂度大幅抬升,倒逼底层互连材料升级,PTFE混压成为Rubin Ultra的潜在路线之一。同时,由于NVL576服务器必须突破传统铜线网络在长距离信号传输上的局限,将引入CPO技术——AI集群规模扩大、信号传输速率提升后,CPO在功耗、成本、低损耗上的优势明显,需求明确,供给端CPO供应链也逐渐成熟。
对设备、材料环节的从业者来说,这份拆解传递的信号很实在:AI硬件的资本开支没有减少,只是采购清单变了——从“更贵的HBM”变成“更多的光模块、更复杂的机架、更先进的高端PCB和互连材料”。
一个时间线可以帮你看清这条线索的推进节奏:
- 2026年9月 : 谷歌确认拆机回收DDR4救急
- 2026年Q3起 : 英伟达并行评估Rubin Ultra多种HBM配置
- 2026-2027年 : HBM价格上行 CSP考虑下调自研ASIC显存
- 2027年下半年 : Rubin Ultra NVL576原定推出节点
💰 博通的账本:1GW 300亿ARR,真这么算?
金句先行:最乐观的数字,往往要接受最尖锐的提问。
内存荒的另一面,是定制算力路线的顺风局。博通CEO Hock Tan在2026财年第三季度财报电话会上给出了一个非常激进的中长期图景:1GW Ironwood已经落地,2027年Anthropic追加5GW TPU v8订单;AI收入翻倍至1150亿美元,2028年再增10GW,届时半导体收入达到2300亿美元。按其说法,每GW算力可创造300亿美元的年度经常性收入(ARR)。
这个模式为什么吃到了内存荒的红利?因为TPU这类定制路线可以更精细地做分层存储设计——像谷歌那样,用DDR5做整机预处理、HBM3e做高带宽层、软件压缩做兜底,把每一GB内存都花在刀刃上。通用GPU在内存配置上的自由度要小得多。
但电话会上的气氛并非只有掌声。有分析师当面提出了质疑:“按照你给的数据,你单价卖得比英伟达便宜那么多,这账到底怎么算出来的?”
这个问题问到了定制算力叙事的软肋:如果TPU v8在单卡层面(尤其是HBM容量)并不追求堆料,那么“每GW 300亿ARR”的隐含单价,就必须靠系统级效率、集群规模和客户黏性来撑。而在内存成本高企、网络开支膨胀的当下,系统级账本里的每一项都在变——HBM占比降、网络占比升、软件优化要求更高,任何一项的假设偏差,都会被GW级的体量放大成巨额出入。
这场问答没有当场分出胜负,但它揭示了一个正在成形的共识:AI算力的比价,正在从“每张卡多少TFLOPS”变成“每GW多少有效产出、每TB内存花在哪里”。
独立推演:300亿/GW到底坚不坚固?
信源只给到电话会原文,下面这笔账是我们自己算的,先亮结论:300亿/GW更像是“满负荷运行+多年兑现+系统级收入”的理想化口径,而不是第一年就能落袋的现金流。
推理过程不复杂。按当前行业普遍认知,一套GW级算力集群的全口径资本开支(芯片+整机+网络+供电散热+机房)大约在每瓦35至45美元区间,即1GW对应约350亿至450亿美元的一次性投入。用300亿美元ARR去除,意味着资本回报率(ARR/资本开支)高达65%到85%,静态回本周期只有一年出头。作为对照,过去两年GPU云租赁的ARR/资本开支通常落在25%到40%之间——博通的隐含回报是行业常态的两到三倍。要补上这个缺口,只有三条路:利用率常年逼近100%、单位token定价显著高于现货市场、或者ARR口径里捆绑了网络、存储乃至软件服务收入。任何一条单独成立都勉强,三条叠加就更像融资叙事的锚点,而非可审计的经营预测。
再往深看一层,还能发现一个信源没点破、但值得所有买方记住的结构性事实:Hock Tan这套叙事的真正底气,恰恰来自内存成本占比较低。按SemiAnalysis同口径拆解,英伟达旗舰的内存成本占比将从40%降至28%——而定制ASIC本来就敢在HBM容量上做减法(TrendForce已证实CSP在下调自研芯片显存配置),叠加博通自家的Scale-up网络和整机交付能力,其GW收入里被内存涨价侵蚀的敞口,比通用GPU路线小得多。换句话说,博通讲的不只是“比英伟达便宜”,而是“比英伟达更不怕内存涨价”——这才是300亿/GW背后最硬的一块承重墙,也是分析师该问而没问的那一问。
当然,反过来说,5GW Anthropic订单按300亿/GW折算是1500亿美元的隐含ARR,而Anthropic自身的收入体量距离这个数字还差一个数量级——除非订单分期上线、收入按多年爬坡确认,否则这个缺口只能靠“长期愿景”来填。投资者盯住两个验证点即可:2027至2028财年AI收入的实际确认节奏,以及GW上线进度与收入确认之间是否存在明显的时间差。
🧭 结语:内存荒改写的不是价格,是价值分配
回到开头那幕:谷歌拆机捡DDR4、给新服务器做转接卡,看似抠门的动作,其实是整个产业价值分配重构的缩影。
AI产业的核心矛盾,已经从“算力够不够”转向“内存贵不贵、互连通不通”。谷歌用三招应对——硬件分层、软件压缩、供应链回收;英伟达用一招应对——砍HBM、上光互连,把预算从内存搬到网络;博通则趁势讲出GW级定制算力的故事,同时要面对分析师对账本的拷问。
把三家的动作放在同一张坐标图上,本文的结论可以收敛为一句话:内存从“元器件”变成了“资本开支主体”,AI硬件的定价权随之下沉一层——从芯片公司手里,转移到能把“内存容量、互连带宽、软件效率”三者一起做优化的系统级玩家手里。谷歌、英伟达、博通路径不同,但都指向同一个动作:把每一TB内存和每一瓦网络的开销,摊到整个机架乃至整个集群去优化。单芯片的时代还在,但单芯片叙事的时代正在结束。
对产业观察者而言,接下来值得盯住三件事:HBM价格走势与8层产品量产节奏、Scale-up网络(尤其是CPO)渗透速度、以及CSP自研ASIC的显存配置决策。内存荒何时缓解尚未可知,但可以确定的是——AI硬件的钱包,再也不会只围着单芯片转了。
毕竟,拆旧服务器捡内存条这种事,只有一家公司会嫌丢人;全行业一起干的时候,它就叫“循环供应链”。