Vera Rubin首测：Agent吞吐量暴涨30倍

时间：2026年8月24-25日 地点：美国 Hot Chips 2026 大会现场 人物：英伟达 CEO 黄仁勋（Jensen Huang）、SemiAnalysis 创始人 Dylan Patel、英伟达超大规模计算副总裁 Ian Buck；CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud、Mistral 等首批合作伙伴 事件详情：英伟达首次公开下一代旗舰机柜 Vera Rubin NVL72 的片上实测数据，选用 1.6 万亿参数的 DeepSeek-V4-Pro 模型，在 SemiAnalysis 旗下 AgentX 智能体编码基准上跑真实工作流。结果显示：Vera Rubin NVL72 的每兆瓦 AI Token 吞吐量比现役主力 GB300 NVL72 最高飙升 30 倍、每百万 Token 生产成本最高暴降 35 倍。同期两款配套芯片同步量产：Groq 3 LPX 让 Gemma 4 31B 跑出每秒 3400 Token；Vera CPU 搭载 88 颗自研 Olympus 核心与 1.2 TB/s SOCAMM2 内存带宽。马斯克旗下 SpaceXAI 已连夜装机 Vera CPU，准备将其部署上太空。 背景：英伟达 8 月初已发布 Vera Rubin 平台，定位"六大全新芯片构建的单一 AI 超级计算机"，由 Rubin GPU、Vera CPU、Groq 3 LPX、Spectrum-6 SPX、Vera BlueField-4 STX 五款机架协同组成，供应链覆盖 30 个国家 350 多家工厂。OpenRouter 数据显示，一次 Agent 任务消耗的 Token 数量是普通聊天的 15 倍，传统 8K/1K 静态基准已无法衡量智能体能力。英伟达此番借 AgentX 工作负载宣示"LLM 时代结束、Agent 时代降临"，并宣告旧基准作废。 影响：30 倍每兆瓦吞吐量提升让受电力约束的 AI 工厂"凭空扩产"。配合 NVIDIA DSX MaxLPS 技术，可在相同兆瓦预算内部署最多 40% 的额外 GPU。35 倍 Token 成本下降直接改写 Agent 商业模型，24 小时无休的数字员工、C 端超级应用迎来大爆发。CoreWeave 已于今年 6 月率先完成 Vera Rubin NVL72 实测部署，谷歌云 A5X 裸金属实例、Microsoft Azure、Oracle Cloud、Mistral 紧随其后；针对更大规模的 Kimi K3 2.8T 模型，GB300 每兆瓦吞吐优势相对 H200 进一步拉大到约 80 倍。 总结：英伟达借 Vera Rubin 首测把竞争维度从"每 GPU 浮点运算"拽入"每兆瓦有效 Token 产出 + 每 Token 成本"的新坐标系。机架级协同设计、NVFP4 量化、第六代 NVLink、Prefill/Decode 分离、分布式 KV 缓存与 KV 感知路由共同构成 Vera Rubin 的倍增器——30 倍与 35 倍不是单颗 GPU 的速度跃迁，而是一整套"AI 发电厂"的能耗经济学重写。 参考来源： 1. 36 氪：https://www.36kr.com/p/3954275398729089 2. IT 之家 / 凤凰网科技：https://tech.ifeng.com/c/8vsXdwTcA5V 3. 搜狐：https://www.sohu.com/a/1067539442_122014422 4. 腾讯新闻：https://new.qq.com/rain/a/20260825A0BABK00 5. Tom's Hardware：https://www.tomshardware.com/pc-components/cpus/hot-chips-2026-nvidia-breaks-down-88-core-vera-cpu-spatial-multithreading-benchmarked-1-2-tb-s-socamm2-memory-agentic-workloads-detailed-and-more 6. ServeTheHome：https://www.servethehome.com/nvidia-vera-cpu-at-hot-chips-2026