Anthropic 把 METR 嵌入公司 报告不可否决

时间：2026 年 10 月 19 日 地点：美国旧金山（Anthropic 总部）/ 全球（同步报道） 人物：Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman、SpaceX 创始人 Elon Musk、METR 创始人兼 CEO Beth Barnes、独立 AI 评估机构 METR（Model Evaluation and Threat Research）、加州州长 Gavin Newsom、Anthropic 联合创始人 Dustin Moskovitz、英国 AI 安全研究所 事件详情：Anthropic 于 2026 年 10 月 16 日（周四）正式宣布将非营利 AI 评估机构 METR 的 6 名全职研究员以"嵌入式"方式纳入公司内部，授予其"员工级访问权"（employee-like access）。这 6 名 METR 评估员可直接使用 Anthropic 公司笔记本电脑、办公桌位、出入证与内部协作工具，访问范围与 Anthropic 内部风险评估团队"大致相当"，并被鼓励以"风险评估同事"的身份与 Anthropic 员工直接交流。这是首个由前沿 AI 实验室与外部独立机构按"Tier 3"框架正式落地的合作。METR 在保留评估结果"无条件发布权"的同时，仅在涉及客户数据、律师-客户特权与模型架构细节等特定类别时接受 Anthropic 的"编辑性删减"请求，且每次删减时必须公开标注删减是否合理。Anthropic 同步把外部评估合作分为三级：Tier 1 限范围调查（如生物武器风险评估机构 SecureBio，仅能发布 Anthropic 批准的内容）、Tier 2 较广泛访问并允许独立发布（如部分红队合作）、Tier 3 即本次与 METR 的"员工级 + 无否决发布"安排。Anthropic 把这套机制类比为"银行监管模式"——监管部门向大型银行派驻常驻审查员实时监督风险，让独立机构能够形成"事前 + 持续"审查。METR 自身不接受任何 AI 公司或员工的资助，资金来源为个人捐赠、慈善基金会与英国 AI 安全研究所等政府机构；2026 年 8 月 METR 公布 6 个月内融资承诺约 7100 万美元，研究方向覆盖自主复制能力、网络安全、化学与生物武器风险以及 AI 研发加速。 背景：这项安排是 Anthropic CEO Dario Amodei 在 2026 年 9 月 12 日提出的"三步放慢前沿模型开发节奏"方案的首次落地。Amodei 当时呼吁前沿 AI 实验室共同嵌入第三方评估机构并允许其访问训练中间检查点；OpenAI CEO Sam Altman 与 SpaceX CEO Elon Musk 在公开场合罕见地背书了这一提议，Altman 表示 OpenAI 也会提供外部评估访问，但截至 Anthropic 本次公布时尚未公布具体计划。Anthropic 同步于 9 月 18 日宣布与 Accenture 旗下 AI 业务 Faculty 合作，双方各承诺在 5 年内投入至少 10 亿美元建立"嵌入式评估"团队，并与 Hugging Face 等机构保持早期沟通。监管层面，加州州长 Gavin Newsom 于 9 月 9 日签署 SB 813 与 AB 1405 两项法案：SB 813 建立独立 AI 验证组织框架，AB 1405 设立 AI 审计师州级登记册并设定独立性、透明度与诚信标准；美国国会两党议员 7 月 23 日提出 FRONTIER Act（H.R. 9925），拟建立模型卡、风险管理框架、独立审计、事故报告与持续评估的国家级要求。METR 自身的成立可追溯至 2021 年的 ARC Evals，2023 年 12 月独立为非营利组织，曾参与评估 OpenAI o3、o4-mini、GPT-4o、GPT-4.5 与 Anthropic Claude 多代模型，2026 年 1 月发布的"时间视野 1.1"模型指出 2023 年后 AI 能力每 130.8 天翻一倍。Anthropic 本次安排也与其 2 万亿美元估值以上的 IPO 预期紧密相关——公司在投资者路演中专门留出大段时间介绍安全工作细节。METR 曾调查过 OpenAI 模型越狱 Hugging Face 事件，本次被嵌入 Anthropic 的是 6 人专项团队，与 METR 其他部门彼此隔离。 影响：1）这是首个前沿 AI 实验室以正式框架向外部独立机构提供"接近员工级访问"的案例，把行业的安全评估从"一次性 API 测试"升级为"持续嵌入式监督"——评估机构现在可以观察训练数据、环境、反馈系统与部署流程，而不仅仅是预发布模型行为，政策文件与日常操作之间的差距成为新的审查重点；2）"无条件发布权"是关键创新——此前所有外部安全评估结果都需要 Anthropic 审批，METR 的"无否决 + 公开评论删减是否合理"双重权限让独立监督真正独立，未来其他前沿实验室很可能被迫跟进类似的 Tier 3 安排；3）Anthropic 的"银行监管"比喻揭示了 AI 安全监管的可能路径——这一模式可能延伸到美国 NIST、欧盟 AI 办公室、英国 AI 安全研究所等多国监管机构对前沿模型的常态化评估，影响未来 FRONTIER Act 等立法的最终形态；4）OpenAI 是否跟进成为关键变量——Altman 已经口头背书但缺少具体承诺，若 Anthropic 的"独立评估无否决"模式被市场视为可信治理示范，OpenAI 将被迫快速推出类似安排，否则在监管机构与投资者面前失去先发优势；5）独立性问题仍存争议——前白宫 AI 顾问 David Sacks 公开质疑 METR 与 Anthropic 通过"有效利他主义"网络的密切联系使其并非真正独立，超过 200 名研究人员（含图灵奖得主 Geoffrey Hinton）已签署 AI Evaluator Forum 公开信要求建立兼顾财务关系与网络关系的独立性规范；6）Anthropic 与 Accenture/Faculty、Hugging Face 的扩展合作显示"独立评估"正在从非营利组织主导转向"非营利 + 商业 + 开源社区"三足格局，长期治理标准仍未确定（资金池、政府机制、争议解决），真正有效的 AI 监管仍需各国监管机构在 FRONTIER Act 等立法层面落地。 总结：Anthropic 10 月 16 日把 METR 6 名研究员嵌入公司内部并授予员工级访问权，同时承诺不否决其评估结果的公开发布，这是首个前沿 AI 实验室以正式 Tier 3 框架向外部独立机构开放"嵌入式安全监督"的案例。这项合作兑现了 Anthropic CEO Dario Amodei 9 月提出的"三步放慢节奏"方案的关键一步，与加州 SB 813 / AB 1405 立法、联邦 FRONTIER Act 草案共同把"AI 独立评估"从非营利志愿项目推上制度化轨道；但 METR 与 Anthropic 通过"有效利他主义"网络的密切联系、OpenAI 尚未公布具体计划、长期资金机制未定等关键问题仍将决定这一模式能否真正成为行业标准。 参考来源： - Ars Technica：https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/ - Tech Times：https://www.techtimes.com/articles/329136/20261016/metr-gets-employee-like-access-inside-anthropic-unconditional-right-publish-findings.htm - LinkLoot：https://linkloot.io/blog/anthropic-embeds-metr-evaluators-internal-access-no-veto - Remio：https://www.remio.ai/post/anthropic-embedded-evaluators-get-insider-access-but-independence-is-the-real-te - TokenPost：https://www.tokenpost.com/news/regulation/29787 - Brocker.org：https://www.brocker.org/anthropic-accenture-embedded-evaluation-partnership - KhanList：https://www.khanlist.com/story/anthropic-gives-outside-ai-watchdog-employee-like-access-796bbd79 - The Actual News：https://theactualnews.org/article/247259/anthropic-gives-outside-ai-watchdog-employee-like-access - EGazette：https://egazette.ai/article/anthropic-grants-outside-ai-watchdog-employee-like-access-bda0e7 - METR 维基百科：https://tigr.tdn.gtranslate.net/wiki/METR