资讯🔥8.0
天价内存把大厂逼成垃圾佬!拆退役服务器抠DDR4用
📋总体概括
DRAM供应紧张已使AI行业从算力受限转向内存受限,谷歌供应链高级总监透露高性能内存约占AI服务器物料成本75%。为破局,谷歌硬件上建立内部回收链,拆解退役服务器回收DDR4模组,并设计转接器让本应使用DDR5的新AI服务器降级兼容旧内存;软件上则优化底层库、模型架构与KV Cache压缩。今年谷歌还推出TPU8t与TPU8i两款ASIC,其中TPU8i配288GB HBM3e、8.6TB/s带宽及384MB片上SRAM。
⚡关键信息
- ▸谷歌高管称AI行业已从算力受限转向内存受限,高性能内存占AI服务器物料成本约75%。
- ▸谷歌建立内部回收供应链,专门重新导入退役服务器拆取DDR4内存模组。
- ▸谷歌设计硬件转接器,使新一代AI服务器在部分情况下降级使用回收DDR4而非DDR5。
- ▸软件端谷歌优化函数库、模型架构和KV Cache压缩,降低单位算力内存消耗。
- ▸谷歌今年推出TPU8t(训练)与TPU8i(推理),后者配288GB HBM3e、8.6TB/s带宽、384MB片上SRAM。
🔥犀利点评
堂堂谷歌沦落到拆服务器抠内存,这是DRAM缺货最生动的注脚。当内存占物料成本75%,算力叙事已让位于存储叙事——真正卡AI脖子的不是GPU而是HBM和DRAM产能。三大原厂控产抬价短期不会松手,回收DDR4这种「数码垃圾佬」操作恰恰证明涨价还有空间,存力就是算力的时代来了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →