芯片设计
郭明錤:英伟达重启推理预填充优化芯片Rubin CPX项目
📋总体概括
郭明錤称英伟达重启一度被认为放弃的AI推理预填充加速芯片项目Rubin CPX,并对设计大幅调整,预计2027年Q1量产。新版CPX算力接近标准Rubin,单卡功耗2300瓦,显存升级为168GB HBM4(原为128GB GDDR7),但仍低于标准Rubin的288GB。项目瞄准预填充阶段成本瓶颈,超50%推理负载来自输入上下文处理与KV Cache构建。
⚡关键信息
- ▸英伟达重启Rubin CPX预填充加速GPU项目,新版预计2027年Q1投产
- ▸性能接近标准Rubin,单卡功耗2300瓦,显存改为168GB HBM4,低于标准版288GB
- ▸超50%AI推理负载来自上下文处理与KV Cache构建,预填充效率决定推理成本
🔥犀利点评
推理成本战已从训练转向预填充,英伟达连'弃子'都能变细分利器。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →