OpenAI「掀桌」:自研芯片 Jalapeño 跑赢英伟达,9 个月造出 3nm 推理怪兽

你有没有想过:有一天,搞大模型的公司,会自己造芯片,还跑赢了英伟达?
不是跑赢一款。是跑赢了 GB200 和 GB300 两个旗舰系统。
2026 年 8 月 25 日,OpenAI 在 Hot Chips 大会上,首次公布了自研推理芯片 Jalapeño 的基准测试结果。
数据炸了。

一、性能数据,到底有多炸?
先看几个核心数字。
在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三个公开模型上,Jalapeño 峰值每瓦 AI 工作量比对比系统高出 1.5 到 1.9 倍。
端到端延迟降低了 1.7 到 3.6 倍。
对于交互式 Agent 任务,性能优势进一步扩大到 2.1 到 4.1 倍。
最夸张的对比来了:在 DeepSeek R1 上,匹配 GB300 此前最快解码速度时,Jalapeño 每千瓦吞吐量达到 12,258 mixed TPS/kW。
GB300 是多少?118。
相差 104.3 倍。
你没看错。不是一个量级。
而且,这些成绩是在 Jalapeño 没有使用多 token 预测(MTP)和推测解码等软件优化的情况下拿到的。对比系统反而依赖了这些优化。
SemiAnalysis 在实测后评价:"击败了我们测试过的每一颗 Nvidia、AMD 和 Google 芯片。"

二、这颗芯片,不是为训练而生,是为"回答"而生
咱们先搞清楚一件事:Jalapeño 不是训练芯片。
它不训练 GPT-6,不跑预训练,不搞大模型底座。
它只做一件事:推理。
你发一条消息给 ChatGPT,系统调模型生成回复——这个过程,就是推理。
训练是"学会能力",推理是"快速回答"。
现有系统在这两个维度上一直有取舍:提高吞吐量,延迟就上去了;追求低延迟,资源利用率就掉下来了。
Jalapeño 的目标,是用一套架构同时拿下两者。
它做到了吗?
OpenAI 硬件负责人 Richard Ho 的话很直接:"非常、非常显著的性能进步。"
这背后是芯片、内存、网络、软件和机架级系统的协同设计。KV Cache 等模型状态被明确放置并尽可能留在本地,让 Jalapeño 同时适应 Prefill 和 Decode 两个阶段,并随工作负载变化动态调整。
说人话就是:不是堆硬件,是重新设计了一整套架构。

三、9 个月,从设计到流片,AI 自己参与了造芯片
这颗芯片最让人震惊的,不只是性能。
是速度。
从初始设计到流片,只用了 9 个月。
一颗 3nm 制程、700W TDP、6 个 HBM4 堆栈、216GiB 内存、15.4TB/s 带宽的芯片,从零到流片,9 个月。
你知道行业平均周期是多久吗?18 到 24 个月。
OpenAI 怎么做到的?
AI 参与了芯片设计。
不同阶段的模型被用来探索不同实现方案,缩短设计、测量和验证周期。模型还参与优化了芯片的算术电路。
更绝的是,用 GPT-Astra 驱动的 Codex,团队只用了 2 个月,就让三款原本不在生产计划中的开放权重模型在 Jalapeño 上实现了高性能运行。
在部分 GPT-OSS Attention 和 MoE 模块中,Codex 生成的实现甚至比人类专家手写版本快 1.5 到 1.8 倍。
这个细节太值得琢磨了。
AI 造芯片,芯片跑 AI,AI 再用芯片造更好的芯片。
循环开始了。

四、英伟达怕不怕?
OpenAI 嘴上说得很客气。
"英伟达是非常好的合作伙伴,我们继续需要大量英伟达芯片。"
但身体很诚实。
Jalapeño 计划 2026 年底小规模上线,2027 年显著扩大部署,大部分产出在第四季度。一个完整计算集群(pod)由 16 个机架共 2048 颗芯片组成,下一代部署目标约 100 兆瓦。
这跟 OpenAI 和 Broadcom 去年 10 月签的 10GW 合作协议完美吻合。
二代芯片已经深入开发,数月内流片。三代概念设计在进行中。B0 版本已在制造,预计每瓦性能再提升 25%。
不过,Jalapeño 对英伟达的威胁,不在训练市场。
训练领域,英伟达的地位仍然无可撼动。
真正的麻烦在 HBM4 供应。
三星、SK 海力士和美光的 HBM 产能已预订到 2027 年,供应紧张到传闻英伟达正在测试精简版 Rubin Ultra。如果 OpenAI 按 10GW 协议大规模铺开 Jalapeño,它将成为 HBM4 市场的重量级新买家,直接跟英伟达抢产能。
你看,谁说竞争只有一种维度?
芯片大战,已经打到内存供应链上了。
结尾
OpenAI 自研芯片这件事,真正值得关注的不是它"跑赢了英伟达"。
而是它证明了一件事:AI 公司可以自己定义硬件,而且能做得比通用方案更好。
不是英伟达不行了。是 AI 推理这个场景,已经大到需要专门为它设计硬件了。
Google 有 TPU,Amazon 有 Trainium 和 Inferentia,Microsoft 有 Maia,Meta 也在布局自研加速器。
现在 OpenAI 来了,带着一颗 9 个月造出来的、打爆所有竞品的芯片。
到 2027 年,当 Jalapeño 大规模铺开,当二代三代陆续问世,AI 推理的成本结构将彻底改写。
到那时,你还觉得"模型免费"是天方夜谭吗?
来源:机器之心 / 36氪 / 电子工程专辑 日期:2026年8月26日