谷歌TPU Ironwood推理性价比领先B200五成

时间：2026年9月11日，半导体分析机构SemiAnalysis正式发布谷歌第七代TPU（Tensor Processing Unit，张量处理单元）Ironwood（TPUv7）的首份第三方推理性能测算。这份由SemiAnalysis创办人Dylan Patel领衔的独立测评，被业内视为英伟达AI推理芯片霸主地位首次真正承压的标志性事件。 地点：测评在SemiAnalysis旗下的InferenceX平台完成，基准测试结果在SemiAnalysis官网及微信公众号"新智元"同步发布。当天报告在36氪、钛媒体、富途牛牛、老虎证券、新浪财经、腾讯新闻、快科技等中文媒体广泛转载。 人物：英伟达CEO黄仁勋（Jensen Huang）今年4月在Dwarkesh Podcast上针对TPU抛出"三次断言"，被SemiAnalysis此次实测数据全面推翻。Anthropic已承诺采购超100万颗TPU（其中约40万颗直接买断，60万颗通过谷歌云租赁），预计到2029年将超越DeepMind成为全球最大TPU单一用户。 事件详情：SemiAnalysis在InferenceX平台上以Qwen3.5 397B FP8为基准模型，在FP8对FP8、输入8k token、输出1k token的完全对等负载下，对比了Ironwood与英伟达B200、B300。在每秒100 token单用户吞吐基准下，Ironwood每百万token成本仅0.181美元，B200为0.222美元，B300高达0.276美元，TPU分别比B200便宜19%、比B300便宜34%。换算到每美元性能，在更高并发场景下，Ironwood相对B200最高领先50.4%，相对B300高达96%。在20秒中位响应时间下，TPU成本进一步降至0.098美元。 背景：Ironwood是谷歌TPU家族的第七代产品，2025年11月发布，2026年4月正式向云客户开放。单芯片配备4,614 TFLOPS FP8峰值算力、192GB HBM3e内存（容量是上代Trillium的6倍）、7.4 TB/s内存带宽，矩阵单元采用256×256脉动阵列，每周期完成65,536次乘加运算，吞吐量是v5架构的4倍。其SuperPod集群可扩展至9,216颗芯片，提供42.5 exaFLOPS聚合算力。 影响：硬件层面，SemiAnalysis数据显示Ironwood物理吞吐仅领先B200/B300约5%，真正拉开差距的是租赁成本与单位时间产出。软件层面，谷歌联合Inferact与RadixArk推出TorchTPU，利用PyTorch自带的PrivateUse1后端接口，让TPU直接成为原生Torch计算设备，开发者只需将一行代码"device = torch.device('cuda')"改为"device = tpu.get_device()"即可在TPU上运行，此前阻碍外部开发者的TorchAX翻译墙被彻底炸毁。vLLM与SGLang等主流推理框架的调度器与API层已可直接复用，Pallas内核可空降至新环境。SemiAnalysis认为，黄仁勋"失去Anthropic即丧失增长引擎"的断言仅维持表面成立——Anthropic已承诺百万颗TPU的采购量，叠加谷歌自去年起开放TPU直售，TPU的外部化进程已"全速前进"。 总结：这是英伟达在AI推理市场首次面对的真正挑战，性能优势与CUDA生态护城河两条防线同时遭遇冲击。随着TorchTPU预计于2026年10月PyTorch大会期间开源，TPU对开发者的迁移门槛将进一步降至一行代码。 参考来源： 1. SemiAnalysis官方原文：https://newsletter.semianalysis.com/p/tpu-inferencex-full-steam 2. 36氪转载（新智元）：https://www.36kr.com/p/3976975500227072 3. 钛媒体：https://www.tmtpost.com/agent/ai-article?id=20246 4. 富途牛牛：https://news.futunn.com/post/78957517/semianalysis-google-s-tpu-encroaches-on-nvidia-s-stronghold-with 5. CloudNews.tech：https://cloudnews.tech/googles-tpus-challenge-nvidia-up-to-50-more-performance-per-dollar 6. 老虎证券：https://www.itiger.com/hant/news/2665378755 7. 新浪财经：https://finance.sina.com.cn/roll/2026-09-08/doc-inircrns4443375.shtml 8. 腾讯新闻/快科技：https://new.qq.com/rain/a/20260911A05RT200 9. AGI Hunt综述：https://agihunt.info/c/infra?f=dr