Anthropic确认触发AI安全门槛 研究提速近一倍

时间：2026 年 11 月 10 日（美国时间） 地点：美国旧金山；文件提交至美国证券交易委员会 人物：Anthropic；独立非营利 AI 评测机构 METR；Anthropic 首席执行官 Dario Amodei 事件详情：Anthropic 在 11 月 10 日提交的修订版公开说明书中确认，公司已判定达到自身「负责任扩展政策」（Responsible Scaling Policy）中一项关键安全门槛。公司在文件中写道，这一判断基于「对未来模型的预期以及整体进展速度，而不是当前模型已展现的能力」。按该政策，当 AI 承担的研发比重足以让模型进步速度提高到约两倍时，这道门槛即被触发，其效果相当于把 2018 年至 2024 年间需要两年才能达成的 AI 进展压缩到一年内完成。招股文件同时写明，AI「已经在加速我们的研发与开发」。跨越门槛并不意味着停止运营，而是必须增设防护措施。同一天公司启动上市路演，公开价格区间为每股 70 至 78 美元，按全面摊薄后股数计算估值最高约 1.4 万亿美元。 背景：这套政策要求随着 AI 能力增强逐级收紧安全措施，因此研发速度本身也被纳入约束。一周前 Anthropic 在修订稿中还只是提示门槛「即将」被触及，本周在敲定发行价区间的同一份文件里转为确认。Anthropic 强调人类仍掌握主导权，公司不预期能在「缺乏人类实质监督或理解」的情形下安全地让 Claude「完全自主设计并打造后续世代的前沿模型」，并正考虑做出政策调整以「保持人类处于控制地位」。2023 年，首席执行官 Dario Amodei 曾与其他 AI 领袖共同警告，应把「AI 造成的灭绝风险」与大流行病、核战并列为全球优先处理的议题。 影响：独立第三方机构 METR 的评估与这一确认相互印证。METR 在上周的评估中估计，自 2025 年 10 月以来，Anthropic 模型的进步速度已提高到原先的近两倍；在另一份评审中，METR 称 Anthropic 8 月份关于「尚未低于门槛之下」的表述言过其实，并认为公司「有可能」早在 7 月中旬就已越过这条界线。招股文件的风险因素章节写明，一旦发生灾难性 AI 事件，任何单一保险公司、甚至可能连整个保险业都无力承担相关损失。文件还披露了更重的一重风险：随着 Anthropic 愈多地运用 Claude 加速内部进展，组织可能逐渐无法掌握某些流程，甚至演变至任何个人或人类群体都难以理解及控制的程度。同样的文件援引川普 9 月 29 日签署、要求联邦机构使用「超级智慧」一词的行政命令，把部分「AI」用语替换为「超级智慧」；据 Yahoo Finance 统计，相比 11 月 2 日版本，新版文件提及「AI」的次数减少约四分之一。Anthropic 表示仍在评估跨越门槛的意涵，并将发布进一步报告。 总结：Anthropic 在 IPO 前夜给出的这次确认，是把一项内部安全承诺转化为公开记录的动作。触发的是公司自订政策中的研发提速门槛，而非外部监管处罚，因此后续动作是增设防护措施并复评政策，而不是放缓模型迭代。独立机构 METR 的复盘把时间线往前推了至少数月，说明这类自我评估存在滞后风险。对整个行业而言，这份文件更大的意义在于，它把「AI 加速 AI 研发」从实验室假设变成了有具体门槛、具体时间点并有第三方交叉验证的公开事实。 常见问题： 问：Anthropic 触发的是什么门槛？ 答：公司自订「负责任扩展政策」中的研发提速门槛，即 AI 承担的研发比重高到能让模型进步速度大约翻倍。 问：触发后 Anthropic 会停止研发吗？ 答：不会。招股文件写明跨越门槛意味着必须增设防护措施，而不是停摆。 参考来源： Yahoo Finance 转载 AOL 报道：Anthropic 称一项关键 AI 安全警报已被触发 https://au.finance.yahoo.com/news/anthropic-says-a-key-ai-safety-alarm-has-been-triggered-days-before-its-ipo-171519615.html 鉅亨網：上週才說快觸線、這週就確認 Anthropic 上市前宣布 AI 已觸發安全警報 https://anuenews.cnyes.com/news/id/6657917 鉅亨理財網：Anthropic IPO 前夕宣佈觸發關鍵 AI 安全警報 https://api.cmoney.tw/forum/article/188315570 DoNews 报道 Anthropic 与 METR 对研发加速门槛判断的差异 https://www.donews.com/news/detail/1/6771355.html TLDR：Anthropic says a key AI safety alarm has been triggered, days before its IPO https://tldr.tech/story/fc7fdf59-46fb-4f52-a670-f8a846db9620 it-daily：METR 指 Anthropic 在 AI 安全报告中淡化多數證據 https://www.it-daily.net/shortnews/anthropic-schwaerzt-ki-bericht 네이버 블로그：앤트로픽은 IPO를 며칠 앞두고 핵심적인 AI 안전 경보가 울렸다고 밝혔다 https://m.blog.naver.com/jwnlee0214/224472472288