OpenAI造芯，赌的不是算力是电费

芯片行业最近流行一句话：训练看的是峰值，推理看的是账单。

OpenAI的自研推理芯片Jalapeño（墨西哥辣椒）就是这句话的最新注脚。据SemiWiki披露，这颗专为AI推理打造的定制加速器，瞄准的是交互式与Agentic系统背后的低延迟、多芯片负载。同一时间，韩国媒体曝出CXMT的HBM3E良率只有25%。一热一冷，两则新闻放在一起看，几乎是当下AI算力产业的一张立体切片：有人在设计端重新定义性能，有人在制造端被封装卡住脖子。

这篇文章想讲清楚三件事：Jalapeño到底聪明在哪、为什么非要三星加台积电双代工，以及CXMT的25%良率，究竟卡在哪一步。

🌶️ 一颗辣椒芯片，重新定义什么叫快

先说一个场景。

你对着一个AI Agent说：帮我订下周去东京的机票，顺便把行程表改一下。这一句话背后，模型要分几步思考、调几次工具、往返多少轮上下文。每多等一秒，用户体验就掉一档，而这背后烧的每一度电，都是运营方的真金白银。

Jalapeño的设计哲学，正是从这类负载倒推出来的。它的核心主张是：有用的性能，不能被简化成峰值浮点算力或者显存带宽这两个数字。 真正重要的是——请求响应有多快。

这句话听起来像废话，其实是整个行业叙事的一次悄悄换轴。过去几年，发布会上的主角永远是FP16多少TFLOPS、HBM带宽多少TB/s，比的是参数表上的最大值。但推理，尤其是Agentic推理，是另一种动物：它要的是小批次、高并发、低首字延迟，是单用户请求从发出到吐出第一个token的等待时间。

据多位接近人士的说法，头部AI公司内部评估自研芯片的KPI清单上，"每token成本"和"P99延迟"的权重，已经明显高于"峰值算力利用率"。这不难理解——训练一年就那么几轮大活，推理却是每秒都在跑的日常开销。

这就是Jalapeño名字里的隐喻：辣椒不追求最大体积，追求的是入口那一瞬间的冲击力。对推理芯片来说，那一瞬间就是延迟。

⚡ 推理时代的账本：电费才是隐形老板

标题里那句话不是玩笑——Hot Chip，Cool Power Bill。芯片做得热，电费账单反而要冷下来。

推理的商业模式和训练完全不同。训练是资本开支，一次性投入买卡；推理是运营开支，每一度电、每一分钟机柜占用都在持续计费。当模型的日活和使用时长指数级增长，推理能耗就成了财报上那条爬得最快的曲线。

这张链路图说明一个朴素的道理：从用户请求到商业模型成立，中间每一环都在扣电费。而定制芯片能在两个环节动手脚——一是砍掉训练场景里用不上、推理时纯属白负载的电路，把面积和功耗让给真正的瓶颈；二是围绕特定的并行策略做片间互联优化，让多芯片协同的通信开销压到最低。

这正是"多芯片工作负载"这个关键词的分量所在。单芯片再强，一个大模型也塞不下；真正的功夫在芯片之间。通用GPU的互联方案是为通用性妥协的产物，而定制ASIC可以为某一种特定的推理架构量身定做互联拓扑——省下来的每一次数据搬运，都是省下来的焦耳和毫秒。

产业逻辑其实很清晰：当推理规模大到一定程度，自研芯片省下的电费，就是护城河。 这条路谷歌的TPU走过，亚马逊的Trainium走过，现在轮到OpenAI。

🏭 三星加台积电：双代工背后是海量的焦虑

如果说Jalapeño的设计理念是"算得巧"，那么它的制造策略就是"造得多"。

据报道，OpenAI正在深化与三星的芯片合作，下一代处理器有可能由三星代工——同时与台积电形成双代工格局（double-sourcing），为自研AI ASIC准备两条产能通道。

这个动作的信息量，比"多找一家供应商"大得多。

双代工是出了名的难事。不同晶圆厂的工艺库、IP生态、PDK特性都不一样，芯片设计团队要为两条产线做适配甚至做两版物理设计，成本和复杂度陡增。没有足够大的量，没有一个理性的公司会主动选择这条路。反过来说——OpenAI选择双代工，本身就是对自家出货量的一次公开投票。

双源还有第二层含义：地缘保险。台积电的先进产能集中在台湾地区，三星的产线在韩国，两条腿走路意味着任何单一地区的产能波动、电力紧张或政策风险，都不会让整个推理部署计划停摆。对一家把"为全人类提供算力"写进使命的公司来说，这不算阴谋论，算工程冗余。

有意思的是三星的角色。在这场AI芯片竞赛里，三星在代工端一直被视为追赶者，但它有一个台积电之外的独特筹码——代工加存储一体化。自家就能产HBM，如果OpenAI的下一代芯片真落在三星，从逻辑晶圆到HBM堆栈再到先进封装，理论上可以走一条更短的内部链路。据业内流传的说法，这正是三星在客户端反复推销的打包方案。

而对台积电来说，失去一份订单不痛，失去"AI芯片必选台积电"这个心智才痛。双代工格局一旦被OpenAI跑通，后面排队的大客户们会怎么看、怎么选，才是台积电真正要回答的问题。

🧊 对照组：CXMT的25%，卡在哪一步

把镜头转向另一个半球，故事就没那么光鲜了。

据韩国媒体报道，CXMT的HBM3E目前良率仅有25%——四个堆栈里三个是坏的。就在上月底，CXMT刚被曝出开始HBM3E风险生产，而这比三星、SK海力士和美光已经落后了整整两个世代——三大原厂如今已经在推进HBM4E送样。

pie title HBM3E当前良率分布

"合格堆栈" : 25

"不良堆栈" : 75

25%意味着什么？简单算一笔账：同等产能下，出一片合格品的成本是理论值的四倍。在HBM这种本来就在抢产能、拼单价的市场里，这个成本结构基本没有商业竞争力。训练和推理集群买HBM买的是确定性，没人愿意在一半概率的废品上压注。

更值得展开的是良率的结构。据报道，CXMT在前道制造环节能达到约30%的良率，后道封测环节在此基础上再乘以约70%。两个数字一乘，就是25%上下。也就是说，问题不是出在某一个环节的崩塌，而是前后道同时不及格，互相放大。

⚠️ 真正的护城河，从封装开始

把Jalapeño和CXMT两条新闻叠在一起，会看到一个容易被忽略的共同点：先进封装和堆叠，正在成为比制程节点更硬的门槛。

CXMT的困境核心是TSV（硅通孔）技术不成熟。平面DRAM是CXMT的强项，据报道做得相当不错——但HBM不是平面DRAM的简单延伸，它要把多层裸片垂直堆起来，每一层打几千个贯穿硅片的通孔，再逐层键合、测试。层数越多，TSV密度越高，几何级数地放大难度。三星在HBM2上每层就用约5000个TSV，SK海力士的HBM3每层超过8000个；而CXMT试图用每层约3000个TSV去堆8层的HBM3E——用更少的通孔做同样的事，工艺余量被压得更紧，良率崩掉并不意外。

顺带一个前瞻判断：以当前的TSV成熟度，CXMT短期内转向12-Hi大容量HBM的可能性极低。8-Hi都还没爬稳，12-Hi的键合精度要求只会更苛刻。

而另一边，OpenAI们的自研芯片要走向数据中心，同样绕不开先进封装这一关——逻辑die和HBM堆栈的协同封装，正是决定推理延迟和功耗的关键环节。这次是设计、制造、封装三方在同一个问题上会师：AI算力的瓶颈，已经从晶体管有多密，变成了芯片之间靠得多近。

这也解释了为什么封装环节的产能，正在成为全球各大厂排队争抢的资源，以及为什么在HBM上落后两个世代，比在DRAM上落后两个世代显得严重得多——前者的差距不在材料配方，而在一整套堆叠工程体系和良率爬坡经验，这些东西买不来，只能一代一代用废片喂出来。

写在最后

一颗为延迟和电费而生的辣椒芯片，一座被TSV卡住的25%良率之墙，加上一次罕见的双代工下注——三条线索指向同一个判断：AI算力竞争的下半场，比拼的不再是峰值参数表，而是从架构设计到封装堆叠的全链条工程能力，以及把这套能力规模化复制的能力。

对从业者来说，值得盯的信号有两个：一是OpenAI双代工芯片的量产节奏，它将检验定制ASIC在推理侧的成本优势能拉开多大；二是CXMT能否在TSV良率上爬过50%这条生死线，那将是全球存储格局是否多一个玩家的分水岭。

辣椒已经下锅，账单正在路上。