OpenAI这颗新芯片,是AI自己写出来的
📋 总体概括
OpenAI首次完整公开首款AI加速器Jalapeño:13.4 PFLOPS四位算力、232GB先进内存、对比GB300时延最高降至约1/3.6。更关键的是设计方式——用自家LLM辅助,架构到首硅不到20个月,RTL到流片仅9个月。本文拆解参数、周期、方法论与产业棋局。
📄 正文
8月25日,OpenAI首次完整公开了它的首款AI加速器Jalapeño。参数足够亮眼:最高13.4 PFLOPS的4位算力、232GB的当时最先进内存、15.4TB/s的访问带宽,官方引用的基准测试中,端到端时延最高比NVIDIA GB300低至约1/3.6,且功耗更低。
但比参数更值得盯住的,是它的诞生方式——从第一个架构概念到第一片硅,不到20个月;首版RTL到流片,只有9个月。帮它跑完这场冲刺的,正是OpenAI自己的大语言模型。
AI开始设计AI要跑的芯片。这件事的产业含义,可能超过Jalapeño本身。
🌶️ 一、先交底牌:一颗为推理而生的心脏
看芯片先看它为谁省钱。
Jalapeño的全部披露参数,几乎都指向同一个场景:推理。
| 指标 | Jalapeño披露数据 |
|---|---|
| 4位算力 | 最高13.4 PFLOPS |
| 内存容量 | 232GB(当时最先进内存) |
| 内存带宽 | 15.4 TB/s |
| 端到端时延(对比GB300) | 最高降低至约1/3.6 |
| 功耗 | 低于对比场景下的GB300 |
| 正式亮相 | 8月25日 |
注意几个细节。第一,OpenAI强调的是"4位算力"——这是典型的推理导向精度选择,而不是训练场景偏好的高位宽。第二,它强调的不是峰值TFLOPS,而是"端到端时延",也就是从用户发出prompt到最后一个token吐出来的时间。这是用户体感指标,不是跑分指标。
第三,232GB配15.4TB/s——这个容量和带宽的组合,业内普遍理解即为HBM类高带宽存储的典型特征。生成式推理的本质瓶颈在访存而不在算力,带宽就是token生成的天花板。
这套参数组合传递的信息很直白:Jalapeño不是一颗"对标训练旗舰"的全面型芯片,而是一颗围绕推理负载精雕的专用加速器。OpenAI自己现在靠GB300跑推理,拿自家新品直接对比在役主力,这个姿态本身就是产品定位说明书。
当然要留一分清醒:这些数据是OpenAI引用的基准结果(其公开链接指向SemiAnalysis的InferenceX相关发布),在Jalapeño大规模进入OpenAI推理舰队之前,纸面增益能否兑现实打实的负载收益,OpenAI自己也承认"尚待观察"。
⏱️ 二、20个月,快得不像一家芯片新兵
速度本身,就是这颗芯片最大的参数。
把OpenAI披露的研发节奏摊开看:
- 首个架构概念成形:距正式亮相约20个月前
- 架构探索与设计推进:约占前期11个月窗口
- 首版RTL启动:流片(tapeout)前9个月
- 流片完成:设计冻结,交付制造
- 8月25日:Jalapeño完整揭晓
pie
title 研发周期构成约20个月
架构概念到首版RTL : 11
首版RTL到流片 : 9
首版RTL——也就是定义芯片全部逻辑的寄存器传输级代码——到流片只有9个月,这个数字在业内听来近乎不讲理。传统上,一颗旗舰级加速器从前端设计到流片以年计,验证阶段往往吃掉大半日程。OpenAI没有披露代工与封装细节,但仅从时间线看,这条研发流水线的效率已经处于行业第一梯队的水准。
为什么速度如此重要?因为AI算力的需求曲线,变化得比芯片研发周期更快。今天定义的架构,三年后流片量产时,负载形态可能已经换了两轮。研发周期每缩短一个月,架构定义就能更贴近当下的真实需求一分。
据多位接近OpenAI的人士观察,这条20个月时间线被内部视为比性能参数更核心的对外叙事——它证明的不是OpenAI能做一颗芯片,而是OpenAI能把做芯片这件事做成一条可复用的快车道。这才是让传统芯片公司真正坐直了的部分。
🤖 三、用LLM写RTL:飞轮开始咬合
AI设计的芯片,跑AI。这个闭环才是大新闻。
OpenAI明确表示,Jalapeño的设计过程由自家大模型加速。这不只是一句营销话术,它指向芯片设计流程中几个LLM最擅长的环节:
C -.LLM辅助.-> C
D -.LLM辅助.-> D
RTL本质上是文本——一门语法严格但高度模式化的硬件描述语言。业界长期流传一个说法:一颗芯片项目里,验证工作量常常占据整体的大头,而大量验证代码、测试激励、接口模块属于高度重复的工程劳动。这恰恰是LLM的舒适区:批量生成样板代码、辅助检查一致性、加速迭代。
把这条逻辑抽象一下,就是一个正在咬合的产业飞轮:
1. OpenAI的LLM有最强的代码与工程文本理解能力之一;
2. 这些LLM被用来压缩自家芯片的研发周期;
3. 更快的芯片研发让推理成本下降、模型迭代加速;
4. 更强的模型反过来让LLM更擅长设计芯片。
每一轮循环,飞轮都快一点。对竞争对手来说,可怕的不是Jalapeño这颗芯片,而是这个飞轮没有明显的停转条件。
当然,工程现场比示意图残酷。据业内工程师私下议论,LLM在芯片设计里的角色目前更接近"超级加速器"而非"自动驾驶"——关键架构决策、时序收敛、物理实现的坑,仍然要靠资深人类工程师兜底。但方向已经清楚:AI写RTL,从论文课题变成了量产实践。
🧭 四、这颗芯片,打的是谁的算盘
自研芯片的第一驱动力,从来是账本,不是情怀。
OpenAI目前的主力推理硬件是NVIDIA的GB300。把自研动作放在这个背景下看,动机几乎写在脸上:
| 维度 | 自研Jalapeño路线 | 持续依赖GB300路线 |
|---|---|---|
| 时延表现 | 官方基准宣称最高3.6倍优化 | 行业基准水位 |
| 功耗 | 对比场景更低 | 现状水平 |
| 成本结构 | 一次研发投入换取规模化摊薄 | 按颗采购、随规模线性增长 |
| 供应链 | 自主节奏、深度软硬协同 | 受制于单一供应商排期与定价 |
| 软件生态 | 需自建栈、初期成本高 | CUDA生态成熟、即插即用 |
对一家以推理消耗为最大运营成本的公司, inference每token成本哪怕只优化百分之几十,折算到舰队规模上都是天文数字。Jalapeño宣称的3.6倍时延优化叠加更低功耗,若能在真实负载中兑现一半,商业逻辑就完全成立。
更深一层是软硬协同:拥有模型和拥有芯片的团队坐在同一栋楼里,架构定义可以完全对着自家负载的真实profile来,而不是对着通用基准跑分来。这就是为什么OpenAI强调的是"端到端时延"——那是只有同时握有模型和硬件的人,才能优化到位的指标。
对NVIDIA而言,这不算致命,但足以改变谈判桌上的空气。当最大的AI客户之一开始自产推理算力,定价权的天平会不可逆地移动几格。多位行业观察人士的判断相近:未来头部AI lab的算力版图,大概率是自研专用芯片跑核心负载、外购通用GPU保灵活性的混合结构,Jalapeño是这个结构的第一个实心证据。
⚠️ 五、从首硅到舰队,中间还有几道坎
发布会的高光,照不亮量产线的全部角落。
冷静列几道必须迈过去的坎:
第一,基准与实战的鸿沟。 OpenAI引用的对比数据来自特定基准场景,端到端时延受负载类型、批处理策略、模型结构影响极大。自家芯片跑自家模型可以调到极致,但"极致"能否覆盖舰队中多样化的推理负载,要等大规模部署的答卷。
第二,软件栈。 这是自研芯片最常见的滑铁卢。CUDA ecosystem攒了十几年的编译器、算子库、调试工具链,不是一颗更好的芯片能绕开的。OpenAI有最强的编译与内核工程团队,且只需要支持自家模型——条件比大多数自研玩家好,但这条路依然要一步一个脚印走。
第三,供应链与良率。 OpenAI未披露制造与封装伙伴及产能规划。先进制程与先进内存的产能分配是当下最紧的资源,新玩家的排期话语权需要用时间与订单换。
第四,团队连续性。 20个月跑完一个芯片周期,依赖的是一支高度浓缩的精英团队。第一颗芯片靠英雄主义,第二颗靠体系。Jalapeño的真正考验,在下一次迭代。
不过换个角度:这些坎,OpenAI比历史上任何一家芯片新兵都更有底气迈过去——它有全世界最饥渴的内部需求、最直接的真实负载反馈、以及一个越来越能干的AI设计助手。
🌶️ 小结:芯片行业的摩尔叙事,换主角了
Jalapeño的意义是双层的:表层,是OpenAI拿到了一块能把自己推理成本打下来的专用芯片;深层,是"用LLM加速芯片设计"从愿景变成了有 silicon 为证的实践——20个月、9个月RTL到流片,这两个数字会出现在之后所有芯片公司向董事会汇报的PPT里。
接下来值得盯三个信号:Jalapeño进入推理舰队后的实际运营数据、OpenAI是否披露下一代迭代的节奏、以及其他头部玩家是否跟进"用自家大模型设计自家芯片"的路线。如果这条路线成立,芯片行业的竞争维度将从工艺与架构,扩展到"谁的AI更会造芯片"。飞轮已经开始转了。
本文由本站 AI 辅助聚合生成,原始来源如下: