Anthropic自拟AI安全法案 50死或10亿才拦

时间：2026 年 10 月 16 日 地点：美国华盛顿特区（国会山） 人物：Anthropic 政策与政府事务团队、美国国会参众两院议员及其幕僚、美国商务部（草案中唯一的执法申请方）；Politico 率先披露该草案 事件详情： 据 Politico 2026 年 10 月 16 日独家报道，援引三名了解内情、获准匿名讨论的知情人士，AI 公司 Anthropic 的代表已悄悄向美国国会山的议员推介一份由其自拟的联邦前沿 AI 安全法案草案。这是头部 AI 公司直接介入立法文本起草的最新动作，此前 OpenAI 支持加州 SB 53，OpenAI 与 Anthropic 又共同呼吁英国以成文法监管 AI。 草案设定的政府干预门槛极高。只有当某个 AI 模型存在可预见的、迫在眉睫的风险，可能造成超过 10 亿美元损失，或导致超过 50 人死亡或重伤时，政府才有权阻止该模型的发布或使用。可计入的危害被限定为三类路径：制造或释放生物武器、模型绕过开发者自身的安全控制、以及发动网络攻击。 执行路径被压缩为单一通道。独立评估机构在商务部注册并开展周期性评估，AI 公司可以付费聘请这些机构，但付费不得与评估结果挂钩。评估机构一旦认定存在符合条件的风险，必须在完成评估后 72 小时内通知商务部，再由商务部向哥伦比亚特区联邦地区法院申请暂停该模型的发布或使用。草案还明文禁止美国其他任何政府部门、机构或官员暂停模型的开发、部署与内部使用，等于把叫停权独家收拢到商务部一家。 Anthropic 发言人在回应中表示，这些提议反映了公司今年早些时候发布的 Advanced AI Framework 中的思路，未否认向国会推介草案一事。 背景： 美国联邦层面至今没有一部综合性的 AI 监管成文法。过去两年，监管压力主要来自州一级与各类机构动作：加州通过 SB 53 要求前沿模型开发者披露安全框架，纽约市议会就 AI 风险举行听证，联邦机构更多依靠采购规则、出口管制与行业自愿承诺。头部实验室在是否欢迎新监管上立场分裂，OpenAI 与 Anthropic 支持以立法方式确立规则，Google 与 Meta 则倾向反对新的法定约束。 Anthropic 此前多次公开主张，前沿模型需要可验证的安全测试与政府后备叫停权，并以算力规模而非具体能力表现来界定前沿。这份草案把上述思路写成了具体法条，把前沿门槛设在 10 的 25 次方 FLOPs。 影响： - 企业自拟监管文本引发监管捕获质疑：由被监管者起草规则、又由其付费聘请评估机构，即便写入付费不得与结果挂钩的条款，仍难以消除利益冲突疑虑，国会可能要求改为政府拨款或设立独立基金。 - 10 的 25 次方 FLOPs 门槛被指过时：批评者认为这条算力线对应的是上一代前沿模型，如今大量企业级模型已达到甚至超过该规模，法案实际覆盖范围可能远超少数最前沿实验室，反而给已跨线的巨头筑起合规护城河、抬高初创公司与开源模型的合规成本。 - 联邦单一通道压缩州级与司法空间：把叫停权独家交给商务部、并禁止其他联邦机构行动，等于在联邦层面只留一道闸门，但草案是否一并排除州检察长与州法院的救济途径并不明确，可能触发联邦优先权之争。 - 为灾难性风险划定责任分界线：把生物武器、失控规避与网络攻击三类危害写入触发条件，相当于官方承认这是前沿 AI 最现实的灾难路径，将影响保险定价、责任认定与企业安全投入的优先级。 - 立法进程仍处早期：草案目前只是向议员推介，尚无议员正式提出，距离成法还有委员会审议、两院表决与总统签署多道关口；但在联邦立法空窗期，这类企业草案往往成为后续法案的模板。 总结： Anthropic 向国会推介的这份草案，用 10 亿美元损失或 50 人死伤的极高门槛、三类限定危害，以及商务部独家申请、联邦法院裁定的单一通道，勾勒出一种只在灾难级事件才启动的轻触式监管框架。它既是 AI 公司主动争取规则制定权的尝试，也把谁来定义前沿、谁来付费评估、谁有权叫停这三个关键问题摆上了台面。在联邦立法长期缺位、州法与各国监管各自推进的当下，这份草案能否被议员接手尚不确定，但它已经把头部实验室的监管底线写成了可谈判的文本。 参考来源： 1. Politico：Anthropic Quietly Pitches Congress AI Safety Bill Capping Intervention at $1B Damage or 50 Deaths https://www.politico.com/news/2026/10/16/anthropic-ai-safety-01124654 2. Tom's Hardware：Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-proposed-ai-safety-bill-only-kicks-in-if-50-deaths-or-usd1-billion-in-damages-are-on-the-line-proposal-would-effectively-make-the-commerce-department-the-only-agency-capable-of-stopping-an-ai-model 3. AI Weekly：Anthropic Floats AI Safety Bill With $1B, 50-Death Thresholds https://aiweekly.co/alerts/anthropic-floats-ai-safety-bill-with-1b-50-death-thresholds 4. Benzinga via TradingView：Anthropic Pitches Bill Letting US Block AI Models Only If They Risk Over $1 Billion in Damage, 50 Deaths https://www.tradingview.com/news/benzinga:9f1df721c094b:0-anthropic-pitches-bill-letting-us-block-ai-models-only-if-they-risk-over-1-billion-in-damage-50-deaths-or-serious-injuries-report/ 5. Crypto Briefing：Anthropic's AI safety bill draws fire over its frontier compute line https://cryptobriefing.com/anthropic-ai-safety-bill-frontier-threshold/ 6. The News：What Anthropic's draft AI bill would let Washington block https://www.thenews.com.pk/amp/1420281-what-anthropics-draft-ai-bill-would-let-washington-block 7. Law Commentary：Anthropic Quietly Pushes AI Safety Bill That Would Limit Government Powers https://www.lawcommentary.com/articles/anthropic-ai-safety-bill-government-powers 8. 新浪财经：Anthropic 推介 AI 安全法案 将允许 10 亿美元损失、50 人死伤时叫停 https://finance.sina.com.cn/stock/usstock/c/2026-10-17/doc-inivnraw1405146.shtml 9. 凤凰科技：Anthropic 推 AI 安全法案：超 50 人死伤、10 亿美元损失时可叫停 https://tech.ifeng.com/c/8xHx81s6akO 10. 东方日报：美 AI 公司向国会推动安全法 https://orientaldaily.on.cc/content/%E5%85%A9%E5%B2%B8%E5%9C%8B%E9%9A%9B/odn-20261018-1018_00180_026/%E7%BE%8EAI%E5%85%AC%E5%8F%B8%E5%90%91%E5%9C%8B%E6%9C%83%E6%8E%A8%E5%8B%95%E5%AE%89%E5%85%A8%E6%B3%95