先进封装
英伟达新一代算力平台补齐拼图 结合DeepSeek模型Token成本可降35倍
📋总体概括
英伟达宣布推理加速器Groq 3 LPX机架进入全面量产,将与Vera CPU、Rubin GPU协同部署于Nebius数据中心,今年晚些时候上线。LPX专为Vera Rubin NVL72平台补充超低延迟Token生成能力,面向智能体AI场景。官方测试显示,结合DeepSeek等模型可使Token成本最高降低35倍。
⚡关键信息
- ▸Groq 3 LPX机架进入全面量产,需与Vera Rubin NVL72 GPU主机架搭配部署,形成异构协同
- ▸LPX主打超低延迟Token生成,补足GPU架构短板,提升万亿参数、超长上下文智能体推理的每瓦吞吐
- ▸英伟达称结合DeepSeek等模型,Token成本可降低35倍,新平台今年晚些时候在Nebius数据中心上线
🔥犀利点评
英伟达收编Groq补齐推理短板,GPU霸权再无死角。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文 →