英伟达高管称Groq机架已全面量产 AI推理“低延迟”大战升温

📋总体概括

英伟达宣布Groq 3 LPX机架全面量产，将与Vera CPU和Rubin GPU一同部署于Nebius数据中心，年内上线。该技术源自去年200亿美元对Groq的收购授权。Groq架构集成500MB SRAM降低内存瓶颈，单机架整合256颗芯片，每秒可处理3400个token，瞄准低延迟AI推理市场，与AMD等展开竞争。