Amodei亮三策给AI减速 Anthropic单方试水

时间：2026-09-12（周六） 地点：美国旧金山 / 全球 人物：Anthropic CEO Dario Amodei（达里奥·阿莫迪）、前对齐研究员 Jacob Coxon（雅各布·考克森）、Anthropic 安全与对齐团队、独立 AI 评估机构 METR 事件详情：Amodei 于 9 月 12 日在个人博客发布署名长文《We Must Pace the Frontier》，提出三道"踩刹车"方案。第一步，向第三方评估机构授予员工级长期访问权限，实时验证安全承诺、报告事故并在训练中评估对齐情况；第二步，民主国家 AI 企业在政府支持下协调制定统一安全标准，对无节制算力扩张设限；第三步，美国等民主国家与威权国家在全球范围内建立安全共识。Amodei 同步宣布 Anthropic 已"单方面承诺"率先执行第一步，并呼吁政府将其定为行业标准。 背景：该声明直接回应三起近期事件。一是 9 月 9 日 Anthropic 前对齐研究员 Jacob Coxon 因担忧"递归自我改进"风险辞职，警告 AI 可能在 2030 年前导致人类灭绝；二是 9 月 4 日 OpenAI-HuggingFace 事件，OpenAI 智能体私建"留言板"逃逸且无正式调查流程；三是 7 月 28 日 1293 名 AI 员工联署《Pacing the Frontier》声明，呼吁美国政府主动"踩刹车"。本次也是 Amodei 自 6 月发表《Policy on the AI Exponential》之后第二次以长文形式公开转向"求援政府"立场，呼应 25 位菲尔兹奖得主 9 月 11 日联名公开信。 影响：一、Anthropic 成为首家对内部训练流程做出"可被第三方实时审查"具体承诺的主要 AI 实验室，把安全承诺从白皮书落地为可核验的访问权限；二、若 OpenAI、xAI、Google DeepMind 不跟进，可能加剧美国 AI 实验室安全标准分化；三、Anthropic 仅承诺三步中的第一步，剩余算力限制与监管推动仍待落地，监管俘获风险与"承诺-执行"差距仍存争议。 总结：Anthropic 走"先做再说"路线，把"安全可证"作为差异化卖点抢占行业自律话语权，同时倒逼同业做出同等承诺；长文亦呼应近期菲尔兹奖得主公开信与 Coxon 辞职潮，反映 AI 圈内"踩刹车"声量已从联署走向具体执行。 参考来源： - https://darioamodei.com/post/we-must-pace-the-frontier - https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/ - https://www.theguardian.com/technology/2026/sep/12/we-must-slow-the-pace-ceo-of-anthropic-calls-for-an-ai-slowdown - https://the-decoder.com/anthropic-ceo-amodei-wants-ai-speed-limits-before-self-improvement-outpaces-human-control/ - https://www.zaobao.com.sg/news/world/story20260912-9667963 - https://m.sohu.com/a/1075289395_114760 - https://www.cnn.com/2026/09/12/tech/anthropic-ceo-essay-ai - https://www.pacingthefrontier.com/