OpenAI自研芯片跑分 每瓦超英伟达1.9倍

时间：2026 年 8 月 25 日（北京时间 8 月 26 日），Hot Chips 2026 大会。 地点：美国加州圣何塞会议中心 Hot Chips 主会场。 人物：OpenAI 硬件副总裁 Richard Ho、CEO Sam Altman、CFO Sarah Friar；博通（Broadcom）联合开发团队；SemiAnalysis CEO Dylan Patel 与分析团队。 事件详情：OpenAI 在 Hot Chips 2026 上首次公开自研推理 ASIC Jalapeño 的独立基准测试结果。这颗与博通联合打造、采用台积电 N3P 工艺、额定功耗 700W（实测约 550W）的专用推理芯片，搭配 6 颗 HBM4（共 216GB、15.4TB/s 内存带宽），在 SemiAnalysis 的 InferenceX 公开基准上，对 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款大模型完成测试。核心数据显示：峰值每瓦 AI 工作量比英伟达 GB200/GB300 机架系统高 1.5-1.9 倍，端到端延迟降低 1.7-3.6 倍，交互式工作负载性能高 2.1-4.1 倍；在匹配解码速度下，每瓦 token 吞吐量最高可达英伟达 GB300 的 104.3 倍（Kimi K2.5 同等 100 token/s/用户水平下 GB300 9 倍以上）。单并发请求下，DeepSeek R1 上 Jalapeño 可达 700 token/s，GPT-OSS 上单用户最高约 1400 token/s。 背景：Jalapeño 项目于 2024 年中由 OpenAI 与博通共同立项，2025 年 10 月 OpenAI 官宣合作，2025 年 11 月完成最终设计并送厂流片，从架构定义到流片仅用 9 个月，远快于行业常规 18-24 个月周期。OpenAI 在设计阶段使用自研 GPT-OSS 与 Codex 加速芯片验证，AI 生成的 attention 与 MoE 内核比人工版本快 1.5-1.8 倍。该芯片是 OpenAI 多代自研硬件路线图的第一代，改进版 B0 已进入 N3P 制造阶段，第二代深入开发、第三代规划中。OpenAI 计划 2026 年底以"极小规模"内部部署，2027 年扩大部署范围。 影响：第一，OpenAI 在推理工作负载上首次拿出能正面挑战英伟达 Blackwell、Rubin 的实测数据，SemiAnalysis 直言"第一代芯片通常不具备竞争力，但 OpenAI 跑赢了 Blackwell 甚至 Rubin"，传统 CUDA 护城河遭质疑；第二，按 128 颗/机架、2048 颗/完整 Pod 部署，单 Pod 可提供 1.7 ExaFLOPS 4bit 算力与 27.5TB HBM4，OpenAI 内部推理成本与延迟结构面临重构；第三，Hyperscaler 自研芯片潮加速，谷歌 TPU、亚马逊 Trainium、微软 Maia 后，OpenAI 与博通组合加入战局，叠加英伟达 Vera Rubin 与苹果 M6 同周发布（48 小时内三颗 AI 芯片对决），AI 算力供给格局进入新一轮洗牌。 总结：Jalapeño 是 OpenAI 成立 11 年来"为模型造芯片"的首份公开答卷，9 个月造芯速度叠加 14 倍以上能效优势，意味着头部模型公司不再被动等待英伟达节奏，而开始按自家模型流量反向定义硬件。这场以 OpenAI/苹果/英伟达为代表的三路线对决（垂直集成 / 制程端侧 / 通用系统），将决定 2027 年后 AI 推理的定价权归属。 参考来源： 1. 极客公园深度报道：http://www.geekpark.net/news/369555 2. TechCrunch：https://techcrunch.com/2026/08/25/openais-jalapeno-chip-is-built-for-fast-inference-at-scale-benchmarks-show/ 3. The Decoder：https://the-decoder.com/openais-first-custom-chip-jalapeno-reportedly-beats-nvidias-blackwell-and-rubin-in-inference-benchmarks/ 4. 腾讯新闻：https://news.qq.com/rain/a/20260826A04SMR00 5. GenAI Daily：https://genaidaily.com/openais-jalapeno-inference-chip-beats-nvidia-in-new-benchmarks 6. ToolAI（转 SemiAnalysis）：https://www.toolai.io/info/3525 7. Particle News：https://particle.news:8443/story/openais-jalapo-chip-tops-public-inference-benchmarks 8. VC Tech Daily：https://vctechdaily.com/openai-presents-jalapeno-chip-benchmarks-at-hot-chips-conference 9. Daily Advent：https://m.dailyadvent.com/news/4c477a68260826en_in