资讯

押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案

财联社深度·2026/9/3 08:46:06🔗 原文

📋总体概括

英伟达联合数据中心服务商Equinix与开源推理平台Together AI,发布企业分布式AI推理服务「Equinix Inference Exchange」,于Equinix Horizon大会亮相,计划2027年一季度上市。三方分层协作:Equinix提供机房、制冷与互联,英伟达输出算力与企业级参考架构,Together AI负责开源模型推理。服务主打降低时延、以开源模型替代封闭模型控制成本,以及满足数据不出境的监管需求。

关键信息

  • 服务定名Equinix Inference Exchange,在Equinix Horizon大会发布,计划2027年第一季度正式上市。
  • 分布式推理将任务拆分至不同地域多台服务器协同计算,使推理能力贴近企业本地数据。
  • Equinix负责底层电力、制冷与运维,并通过Equinix Fabric连接云、网络与AI服务商。
  • 英伟达提供AI基础设施硬件与企业级参考架构,目标最大化吞吐量并压低单位token成本。
  • 服务瞄准三大需求:降低时延、从封闭模型迁移到开源模型以控成本、满足数据不出境监管要求。

🔥犀利点评

英伟达卖卡卖架构还不够,这次直接绑住机房和推理层,把企业推理全栈打包——本质是要在开源模型崛起、token价格被打薄的背景下,把利润从模型层挪到基础设施层。2027年才上市,节奏明显是先占位再收割,届时开源推理生态格局已成,这步棋是防守大于进攻。

本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文