AI产业遭遇内存瓶颈 谷歌拆解旧服务器回收DDR4救急
📋总体概括
谷歌供应链基础设施高级总监切里安在行业峰会透露，DRAM供应持续紧张，AI产业瓶颈已从算力不足转向内存受限，AI服务器中高性能内存占BOM成本约75%。谷歌已开始拆解退役服务器回收DDR4内存模组救急，并设计转接卡让DDR4接入新一代AI服务器，部分场景以DDR4替代DDR5；同时用TPUv8i（单芯片288GB HBM3e）分层存储体系和KV缓存压缩等软件手段降内存开销。巨头被迫拆机回收旧内存，折射DRAM短缺的严峻程度。
⚡关键信息
- ▸AI服务器中高性能内存占BOM成本约75%，产业瓶颈已从算力不足转变为内存受限
- ▸谷歌拆解退役服务器回收可用DDR4模组，构建内部循环利用的内存供应链
- ▸谷歌专门设计硬件转接卡，让DDR4接入新一代AI服务器，部分场景以DDR4替代DDR5
- ▸TPUv8i推理芯片采用分层存储，每颗芯片配备288GB HBM3e高带宽内存
- ▸软件端同步优化底层函数库、模型架构及KV缓存压缩算法，降低单位算力内存开销
🔥犀利点评
谷歌沦落到拆旧服务器抠DDR4，这是DRAM产业链给全行业敲响的最响警钟——内存才是AI时代真正的稀缺品。HBM和DDR5产能被三星、SK海力士、美光三家攥在手里，云巨头一边加价抢货一边把退役机器翻个底朝天，说明缺货不是短期波动而是结构性缺口。转接卡用DDR4凑合，本质是拿性能换生存空间。下一轮AI军备竞赛的胜负手，恐怕不在GPU数量，而在谁锁得住内存产能。
快科技9月3日消息，据Wccftech报道，谷歌供应链基础设施高级总监尼基尔·切里安（Nikhil Cherian）近日在行业峰会上透露，由于DRAM供应持续紧张，公司已开始拆解退役服务器，回收其中仍可使用的DDR4内存模组，以应对AI算力扩张带来的内存短缺压力。
切里安指出，人工智能产业的核心瓶颈已由“算力不足”转变为“内存受限”。
在典型的AI服务器中，高性能内存的物料清单（BOM）成本占比已高达约75%，内存已成为制约系统性能和成本结构的关键因素。
为突破内存瓶颈，谷歌正同时从软件和硬件两端发力。在硬件层面，谷歌采取了颇为直接的应对方式——有计划地将退役服务器重新调回机房，拆解并回收其中可用的DDR4内存模组，构建起一套内部循环利用的供应链体系。
在某些应用场景中，谷歌甚至已被迫采用相对保守的方案：用DDR4内存模组替代新型AI服务器原计划搭载的DDR5模组。
为此，公司专门设计了硬件转接卡，使DDR4等上一代内存方案能够接入新一代AI服务器系统，以缓解高端内存供应的短缺压力。
在面向推理任务优化的TPUv8i芯片方面，谷歌采用了专用分层存储体系。整机层面依托高速DDR5内存进行数据预处理等任务，每颗TPUv8i芯片还配备288GB HBM3e高带宽内存，兼顾容量与带宽需求。
软件层面的优化同样在同步推进。谷歌持续调整底层函数库、模型架构及KV缓存压缩算法，以尽可能降低单位算力下的内存开销，从系统层面缓解对物理内存的过度依赖，提升整体资源利用效率。
