Anthropic承认漏判AI加速 METR评估1.5倍

时间：2026年11月2日（周一，美国时间），Anthropic 向美国证券交易委员会提交修订版 S-1/A 招股文件，中文媒体于 11 月 3 日跟进报道。 地点：美国旧金山（Anthropic 总部）与美国证券交易委员会（SEC）电子申报系统。 人物：Anthropic（Claude 的开发方）、第三方评估机构 METR、TechCrunch 记者 Julie Bort。 事件详情：Anthropic 在修订版 S-1/A 的风险因素部分新增表述，写明随着公司越来越多地使用 AI 加速自身的研究与开发，模型能力的提升速度可能超出其开发、验证并实施相应安全、对齐与安保措施的速度。文件同时称，根据内部预判，公司的模型可能即将触达《负责任扩展政策》所定义的「由 AI 驱动的大幅加速进展」这一阈值，但尚未指定任何现有模型超过该阈值。最关键的一处改动在第 29 页：一周前的首版 S-1 只说公司「可能无法」在研发显著加速发生前识别出它，修订版往这句话里塞进六个英文单词 have in the past not identified（过去就曾未能识别），并补充未来可能仍要等加速发生后才后知后觉。中文媒体据此把这条披露概括为，连造 AI 的人自己都只能在事后才察觉研发加速。 背景：Anthropic 的《负责任扩展政策》3.4 版于 2026 年 7 月 8 日生效，修订了与自动化研发相关的门槛；3.1 版曾澄清，所谓 AI 让进展速度翻倍，指的是把 2018 至 2024 年的两年 AI 进展压缩进一年，指的是总体 AI 能力进展的翻倍，而不是研究者个人生产力的翻倍。据 AI Affairs 梳理，触线有两条路径：一条要求观察到或预期到由 AI 带来的整体能力进展翻倍，并且要同时对照没有 AI 时的预期进展、以及至少连续三个模型世代中最快的非 AI 进展；另一条是 AI 以不超过雇佣人五倍的代价接管全部人类科学家与工程师的研发职责。公司 8 月风险报告（覆盖至 7 月 15 日）当时判断 AI 驱动的加速低于其 2 倍阈值，同时警告如果 AI 独自承担研发与模型开发，未来六到十二个月内可能构成重大关切。独立第三方给出了自己的读数：METR 在 9 月 22 日发布对 Claude Opus 5.5 的部署前评估，在 10 个工作日的 API 接入和五项任务测试后给出结论，Opus 5.5 相对 Fable 5.1 属于按趋势的略微改进，不太可能完全自动化 AI 研发；该评估还引用一份来自另一支拥有更高权限的 METR 团队的初步报告，给出约 1.5 倍的整体能力加速，即 1 年干完 1.5 年进度，有大约三成概率达到 2 倍加速，但该初步报告没有说明对应的时间区间，因此无法确定它是否适用于 Opus 5.5 的开发期。 影响：对开发者而言，这条披露把「AI 加速 AI 研发」从一句警告变成了可核对的口径：红线是 2 倍整体能力进展加速，且要与没有 AI 时的预期进展、以及三个模型世代中最快的非 AI 进展同时对比。更现实的是观测滞后的问题，大模型在预训练和 Agent 协同中到底变强了多少，光看训练曲线读不出来，研究员要等模型训完、跑完评测，再拉进内部工程线实打实用上几个月，最后统计代码产量和实验周期才能倒推出真实的加速倍率，也就是说即使越线，人也可能事后才知道。对 Anthropic 自身，公司明确表示即便将来技术上完全做得到，也不会脱离人类的监督和理解让 Claude 全自动设计、构建下一代前沿模型，并透露正在考虑更新安全红线，强制研发流程里特定关键决策必须由人类审查签字。值得留意的是公司自评与外部评估之间的张力：公司把未来模型的预估推近阈值，而 METR 对现有模型的判断是不太可能被剧烈加速，且 METR 明确说明其工作并非用于核验是否合规于 Anthropic 政策中的任何具体阈值。 总结：这份修订版招股文件里最值得注意的不是「快要越线」这个警告本身，而是 Anthropic 承认自己过去就曾没能及时察觉研发加速，未来还可能重演。配套的量化口径也随之公开：红线是 2 倍整体能力进展加速，而 METR 引述的初步估计是约 1.5 倍、达到 2 倍的概率约三成。对外部观察者来说，这既是安全承诺的收紧，也是内部工程瓶颈的暴露，观测手段跑不赢加速速度，本身就是风险的一部分。 常见问题： 问：Anthropic 承认的「曾漏判」指什么？ 答：它过去曾未能及时发现研发速度出现显著加速，要等加速发生后才识别出来。 问：离这条红线还有多远？ 答：政策红线是 2 倍整体能力进展加速，METR 引述的初步估计约 1.5 倍，达 2 倍概率约三成。 问：现有模型越线了吗？ 答：没有，文件称内部预判与对未来模型的预期显示可能即将触及，但未指定任何现有模型超过该阈值。 参考来源： TechCrunch 报道：Anthropic 在招股文件中承认曾未能及时识别研发加速 https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/ Anthropic 官方《负责任扩展政策》页面：AI 研发能力阈值的定义与版本沿革 https://www.anthropic.com/responsible-scaling-policy METR 官方评估摘要：Claude Opus 5.5 部署前评估与 1.5 倍加速估计 https://metr.org/blog/2026-09-22-claude-opus-5-5/ 36氪 / 新智元报道：招股书第 29 页的六个词与滞后指标问题 https://www.36kr.com/p/4053181359723649 AI Affairs 报道：RSP 3.4 触线判定路径与 8 月风险报告的判断 https://www.aiaffairs.com/technology/anthropic-future-models-ai-research-acceleration-threshold/ 量子位报道：Anthropic 更新招股书披露触及 AI 驱动的大幅加速进展阈值 https://www.qbitai.com/2026/11/507382.html 品玩报道：Anthropic 招股书提示 AI 自我改进能力临近 将强化人工监督 https://www.pingwest.com/w/319133 投资界报道：Anthropic 承认曾未及时察觉 AI 研发加速 未来也可能后知后觉 https://news.pedaily.cn/202611/571265.shtml