资讯
押注开源推理!英伟达携手Equinix、Together AI推出企业AI推理方案
📋总体概括
英伟达联合数据中心服务商Equinix与开源推理平台Together AI,发布企业分布式AI推理服务「Equinix Inference Exchange」,于Equinix Horizon大会亮相,计划2027年一季度上市。三方分层协作:Equinix提供机房、制冷与互联,英伟达输出算力与企业级参考架构,Together AI负责开源模型推理。服务主打降低时延、以开源模型替代封闭模型控制成本,以及满足数据不出境的监管需求。
⚡关键信息
- ▸服务定名Equinix Inference Exchange,在Equinix Horizon大会发布,计划2027年第一季度正式上市。
- ▸分布式推理将任务拆分至不同地域多台服务器协同计算,使推理能力贴近企业本地数据。
- ▸Equinix负责底层电力、制冷与运维,并通过Equinix Fabric连接云、网络与AI服务商。
- ▸英伟达提供AI基础设施硬件与企业级参考架构,目标最大化吞吐量并压低单位token成本。
- ▸服务瞄准三大需求:降低时延、从封闭模型迁移到开源模型以控成本、满足数据不出境监管要求。
🔥犀利点评
英伟达卖卡卖架构还不够,这次直接绑住机房和推理层,把企业推理全栈打包——本质是要在开源模型崛起、token价格被打薄的背景下,把利润从模型层挪到基础设施层。2027年才上市,节奏明显是先占位再收割,届时开源推理生态格局已成,这步棋是防守大于进攻。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 财联社深度 阅读全文 →