资讯🔥8.0
英伟达Rubin Ultra缩水，SemiAnalysis：瓶颈在于每单位带宽成本，而非每单位容量成本
📋总体概括
据SemiAnalysis分析，英伟达将Rubin Ultra的HBM堆叠从12-Hi下调至8-Hi，可减少约三分之一DRAM裸片用量，缓解HBM供应紧张。核心逻辑是AI推理的真正瓶颈在于每单位带宽成本而非容量成本：堆叠层数主要决定容量，带宽取决于堆栈数量、接口宽度与速率，下调层数不影响带宽。这标志着HBM竞争正从堆容量转向单位美元带宽的经济性比拼。
⚡关键信息
- ▸英伟达将Rubin Ultra的HBM从12-Hi降至8-Hi，减少约三分之一DRAM裸片用量
- ▸SemiAnalysis判断：AI推理瓶颈在每单位带宽成本，而非每单位容量成本
- ▸HBM堆叠层数主要决定容量，带宽取决于堆栈数量、接口宽度和传输速率，降层数不损带宽
- ▸推理型工作负载需持续搬运模型权重和KV Cache，带宽重要性持续上升
- ▸HBM竞争逻辑从「容量够不够」转向「每一美元买到多少带宽」
🔥犀利点评
这次「缩水」其实是英伟达的一次教科书级成本工程：厂商过去用堆HBM层数秀肌肉，但推理时代真正烧钱的是搬数据的速度，不是存数据的仓库。砍掉三分之一的DRAM裸片、带宽不动、成本大降，这笔账算得比谁都精。真正该紧张的是SK海力士、三星们——如果赛道转向单位带宽经济性，靠堆层数卖高价的逻辑正在失效。
📰 相关资讯（与本文相关的其他资讯）
本文由本站自动聚合，以下为原始来源：前往 华尔街见闻 阅读全文 →