Anthropic警告已接近AI递归自我改进临界点

时间：2026年11月2日（周一，美国时间） 地点：美国旧金山（Anthropic 总部）与美国证券交易委员会（SEC）申报系统 人物：Anthropic（Claude 的开发方）、共同创始人 Jack Clark、TechCrunch 记者 Julie Bort 事件详情：Anthropic 于 11 月 2 日向美国证券交易委员会提交修订版 S-1A 招股文件。TechCrunch 记者 Julie Bort 当天报道称，外界注意力集中在文件更新后的财务数据上，而这家公司还在细节里埋了另一枚小炸弹：招股文件的风险因素部分新增表述，首次明确 Anthropic 可能即将达到其内部定义的递归自我改进（RSI）门槛。文件写道：随着我们越来越多地使用 AI 系统加速自身的研究与开发，我们模型能力的进展速度可能超出我们开发、验证和实施相应安全、对齐与安全措施的速度。TechCrunch 记者据此指出，该文件似乎警告该公司正处于创造具备递归自我改进能力模型的临界点。不过 Anthropic 同时强调，我们预计，即便在技术上变得可能，我们也无法在缺少有意义的人类监督或理解的情况下，安全地使用 Claude 完全自主地设计并构建一代又一代前沿模型，并称正在考虑更新 Responsible Scaling Policy 以在前沿模型开发中保持人类掌控。 背景：RSI 即 Recursive Self-Improvement，指 AI 系统自主完成设计、训练下一代模型的完整流程，人类不再处于关键环节。支持者视之为生产力与科学发现的跃迁路径，批评者则把它当作失控风险的具体机制——Anthropic 早在 2026 年 6 月就发表《When AI Builds Itself》，呼吁全球实验室考虑协调一致地暂停或至少放慢前沿模型开发。此次并非首次披露：10 月的 S-1 招股书用 94 页篇幅铺陈风险因素，把 RSI 与生存风险直接挂钩，WIRED 称之为一份 AI 末日入门读本。真正的变化在于，11 月的修订版第一次把可能即将跨过门槛写进了与财务数据同一份文本。 影响：对 Anthropic 来说，这段文字既是安全承诺也是竞争叙事，把用 AI 造 AI 同时写成风险来源和可控的工程问题。对行业来说，一家即将上市的头部模型公司公开承认研发速度可能已超出安全措施的部署速度，等于把 Responsible Scaling Policy 的阈值从内部文件搬进了上市文件，监管者与投资者都会逐条对照。Anthropic 联合创始人 Jack Clark 同期表示，工程师已在编码工作上完全依赖 AI，Claude 自主主导下一代模型研发的比重从一年前的 1% 升至 8 月的 26%，因此 AI 自我实现的时点从 2028 年提前到 2027 年。 总结：Anthropic 在修订版招股文件里写下了一句让整个 AI 圈反复咀嚼的话——公司可能即将跨过递归自我改进的门槛。这句话既是自我警告，也是对自身技术进展的一次公开炫耀。值得注意的是，同一份文件也明确表示尚无任何模型被指定为超过该阈值，并承诺继续让人类留在前沿模型研发的决策环节。在以 AI 加速 AI 的军备竞赛里，如何不被自己造出的东西甩开、同时把人类留在方向盘后，将是接下来 IPO 与监管共同盯上的核心问题。 常见问题： 问：RSI 递归式自我改进是什么意思？ 答：RSI 指 AI 系统自主完成设计并训练下一代模型，不再需要人类把关。Anthropic 称公司可能即将达到这一门槛。 问：Anthropic 的模型跨过该阈值了吗？ 答：还没有。招股文件写明目前没有任何模型被指定为超过该阈值。 问：Anthropic 上市了吗？ 答：仍在申报阶段，尚未完成上市。 参考来源： TechCrunch 报道：Anthropic 警告已接近递归自我改进能力 https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/ Gate News 中文报道：Anthropic 在最新 S-1A 申报文件中警告递归式自我改进正在逼近 https://web.gate.it/zh/news/detail/anthropic-warns-of-approaching-recursive-self-improvement-in-latest-s-1a-25369109 YTN 报道：Claude 自主主导下一代模型研发的比重升至 26% https://m.ytn.co.kr/news_view.php?key=202611021331194968&s_mcd=0104 SBS News 报道：Anthropic 自我改进速度加快 AI 驱动 26% 研发 https://news.sbs.co.kr/english/article.do?news_id=N1008826216&plink=SECTION&cooper=SBSNEWSMAIN WIRED 报道：Anthropic 招股文件也是一份 AI 末日入门读本 https://www.wired.com/story/the-anthropic-ipo-is-also-a-doomsday-primer/ wowtv 报道：WSJ 专栏称递归式自我改进比人类预期来得更快 https://m.wowtv.co.kr/NewsCenter/News/Read?articleId=202611020336d Korea Daily 报道：Anthropic 称 26% 研发由 AI 主导 RSI 时点提前到 2027 年 https://www.koreadaily.com/article/20261101180438267 TLDR 摘要：Anthropic 更新版 S-1 显示模型或即将触及 RSI 门槛 https://tldr.tech/story/08320c0b-c8ad-4e5b-a4d3-8035f90cff1b theagenttimes 综述：递归式自我改进研究激增 多家实验室面临临界点 https://theagenttimes.com/articles/recursive-self-improvement-research-surges-as-labs-confront--15d34281