Anthropic 核心API改用Rust CPU省四成

时间：2026 年 11 月 3 日，InfoQ 中文发布对 Anthropic 重构 Messages API 一事的深度解读；相关访谈于 2026 年 10 月 27 日在 Latent Space 播客上线，Rust 版 API 在访谈前一周左右已经全量上线。 地点：线上 Latent Space 播客《How Anthropic ships Claude with Claude: Separating the Brain from the Hands》，主持人 swyx 与 Anthropic 团队对话。 人物：Anthropic 平台工程负责人 Katelyn Lesse、Anthropic 产品负责人 Angela Jiang、Latent Space 主持人 swyx；中文解读由 InfoQ 中文作者林绮蓓整理。 事件详情：Anthropic 把 Claude 背后的 Messages API 从 Python 单体服务整体迁移到了 Rust。起因是 API 调用规模扩大之后，原有 Python 单体服务的 CPU 效率太低，CPU 容量成了瓶颈，此前团队虽然已经完成多区域部署，跑的仍然是一套 Python 单体。当时团队里一个 Rust 开发者都没有，Anthropic 的做法是让人类工程师负责分布式系统的架构与验证方案，由 Claude 承担具体实现代码。验证方式偏传统：先在 Rust 上完整构建一套 Messages API，再把线上流量影子复制过去，逐条比对 Python 与 Rust 两套系统的输出是否一致，确认之后才用功能开关和负载均衡逐步切换真实流量。结果是相关服务的 CPU 资源消耗下降约 40% 到 50%，首 Token 延迟改善约 10% 到 20%，运行时间更长的工作负载改善幅度更大，Katelyn 称这个数字相当惊人。节奏控制上，团队刻意克制新增功能的冲动，把这次改造称作移植而不是重写，单独组建小组负责迁移，其他团队继续为原 API 开发新功能，并用静态分析确保 Python 侧新增的功能在 Rust 侧有对应实现。Katelyn 说按传统做法，这类项目需要把系统拆开一块块迁移，往往要花好几年，这次是一次性整体移植。 背景：就在这次访谈前一天，Katelyn Lesse 在 X 上发表长文《The new set of problems for engineers to solve》，把 AI 大量接管编码之后的工程难题摆到台面上。她提到过去预算允许就能按需扩充 CPU 资源，现在 CPU 容量也得提前规划，这对整个行业都是新挑战；研究团队和产品沙箱还在分同一块 CPU 配额。Anthropic 自己的 Claude Managed Agents 采用大脑与双手分离的架构，Agent Harness、会话状态和访问凭据放在沙箱外的可信基础设施上，沙箱只负责执行生成的代码，凭据存在独立的 Vault 里，请求离开执行环境时由代理注入，沙箱侧只能看到占位符。这次访谈属于 Latent Space 为 Anthropic IPO 做的系列报道之一，录制背景是 Opus 5.5 发布之后。 影响：这是一次把 AI 写主干代码从演示推到生产的完整案例，安全性的关键不在模型写得多好，而在有没有影子流量加逐条输出比对这套老办法兜底。对国内团队来说，最值得借鉴的是验证流程而不是语言选择，没有输出比对和完整评估集，模型一次吐出来的大批量代码很难判断是否与旧系统行为一致。Anthropic 给出的下一个方向是把会话状态存在服务端，客户端不必每轮重传完整历史，长对话场景能省掉大量重复传输。更值得关注的是职责边界的变化，当实现工作大量交给模型，工程师的价值从写代码转向系统设计、验证、可靠性与安全控制，随之出现的是一批过去根本不存在的工程课题。 总结：Anthropic 用一次整体移植证明，零 Rust 经验的团队可以靠 Claude 把核心 API 从 Python 换到 Rust，代价是前期必须重新设计架构与验证流程。代价换来的是 CPU 消耗下降约 40% 到 50%，首 Token 延迟改善约 10% 到 20%。真正稀缺的不是让模型写代码，而是证明新系统能安全替代旧系统的那套方法。访谈没有给出这次迁移的实际耗时，也没有给出 Claude 生成代码的占比，这两个数字目前无法核实。 常见问题： 问：Claude 写的代码靠得住吗？ 答：Anthropic 没有直接上线新实现，而是用影子流量让新旧系统处理相同请求、逐条比对输出后才逐步切流量。 问：这次迁移 Claude 写了多少代码？用了多久？ 答：访谈没有给出这两个数字，外部也无法核实；按常规做法这类跨语言重写通常要分块推进好几年。 参考来源： Latent Space 播客原文（2026-10-27） https://latent.space/p/opus55/ InfoQ 中文报道（2026-11-03） https://www.infoq.cn/article/IMWM7ZXDi99sMiUVZBIF 36Kr 英文版转载 InfoQ 原文（2026-10-29） https://eu.36kr.com/en/p/4046323307205764 产业链媒体 C114 转载 https://www.c114.net.cn/industry/139381.html Cocoloop 核验稿（2026-10-30） https://news.cocoloop.cn/2026/10/anthropic-messages-api-rust/ 鉅亨网快讯 https://news.cnyes.com/news/id/6640604