Epoch AI:推理容量增4.6倍 算力只增2.6倍
时间:2026 年 11 月 18 日,研究机构 Epoch AI 公开数据洞察文章《Agentic inference capacity grew 4.6× in one year, versus 2.6× for compute capacity》,署名作者为 Jason Li。
地点:美国旧金山;统计口径覆盖 2025 年第二季度到 2026 年第二季度的全球 AI 芯片出货。
人物:Epoch AI 研究员 Jason Li,本文署名作者。
事件详情:Epoch AI 在这份数据洞察中给出测算结果:从 2025 年第二季度到 2026 年第二季度,已售出 AI 芯片的智能体推理容量累计增长 4.6 倍,而同期峰值 8-bit 算力只增长 2.6 倍,两个倍数都以 2025 年第二季度为基准。增长主要由 Hopper 向 Blackwell 的换代驱动,英伟达 Blackwell 与 Blackwell Ultra 两大家族贡献了新增推理容量的 74%,GB300 系统每 GPU 的推理容量约为 H200 的 8 倍。到 2026 年第二季度,Blackwell 与 Blackwell Ultra 占总算力推理容量的约 73%,而在峰值 8-bit 算力中的占比只有 50%。文章同时提示增速正在放缓:2026 年第二季度售出的芯片只带来相当于 2025 年第二季度 3.3 倍的新增容量,低于总量 4.6 倍的增速,因此 Epoch AI 预计总算力增速会放缓。
背景:过去行业习惯用峰值算力衡量芯片能力,但 AI Agent 这类长上下文、可命中缓存的负载对显存容量、芯片间互连和低精度计算的要求,与单纯的前向算力并不等价。Epoch AI 用自研的推理性能指数(Inference Performance Index,IPI)在固定工作负载、长缓存上下文下横向比较硬件,把各季度芯片出货量与单芯片 IPI 得分相乘,得到推理容量的估算值。此前发布的 IPI 报告估算,GB300 单芯片的 AI Agent 请求处理容量约为 H100 的 25 倍、H200 的 8 倍,而它的峰值 8-bit 算力只有 H100 的约 2.5 倍。
影响:对算力采购和数据中心规划来说,衡量 AI 供给不能再只看纸面算力参数,推理吞吐、显存与互连能力正在成为更贴近真实负载的指标;英伟达借 Blackwell 换代在智能体推理这一细分维度上进一步拉开身位,Google TPU、AMD、亚马逊 Trainium 等路线的份额变化也更值得跟踪。同时 Epoch AI 提醒,季度新增容量的增速已从 4.6 倍回落到 3.3 倍,单纯靠堆硬件拉动的总算力扩张正接近边际收益递减阶段,硬件与模型的协同设计被认为是继续拉开差距的关键。
总结:Epoch AI 把 AI 算力增长拆成了两条曲线,代表峰值算力的 2.6 倍和代表智能体推理容量的 4.6 倍,两条曲线之间的差距正在拉大。英伟达 Blackwell 与 Blackwell Ultra 贡献了新增推理容量的 74%,是这一分化的主要来源。对产业链来说,推理侧的实测能力正在比纸面参数更能决定选型;对市场来说,Epoch AI 同时提示了新增容量增速回落的事实,需要区分总算力还在涨和涨得越来越慢这两件事。
参考来源:
Epoch AI 数据洞察:Agentic inference capacity grew 4.6× in one year
https://epoch.ai/data-insights/agentic-inference-capacity-growth
TokenPost 韩文报道:AI 推理容量增加部分 74% 由英伟达 Blackwell 贡献
https://www.tokenpost.kr/news/ai/440548
金色财经(经 mitrade 转载):Epoch AI:智能体推理容量一年增 4.6 倍,算力增 2.6 倍
https://www.mitrade.com/zh/insights/news/live-news/article-3-2264378-20261119
ME News 报道:英伟达拿下全球 74% 的新增 AI Agent 推理容量
https://www.me.news/contents/330060
新智元 ASI 报道:算力才涨 2.6 倍,智能体推理容量一年狂飙 4.6 倍
https://aiera.com.cn/asi-item.html?id=341fb1ce







