Anthropic嵌入METR 独立AI安全审计常态化
时间:2026 年 10 月 18 日
地点:美国旧金山(Anthropic 总部)
人物:Anthropic 创始人 Dario Amodei、外部评估机构 METR(Model Evaluation & Threat Research)、OpenAI CEO Sam Altman、SpaceX 创始人 Elon Musk、Anthropic IPO 投资方、埃森哲(Accenture)旗下 Faculty、生物安全非营利 SecureBio
事件详情:
Anthropic 周四披露,已向非营利评估机构 METR 授予"员工级"内部系统访问权限,并已为 6 名 METR 员工发放公司硬件、办公席位和与自家风险评估团队相当的内部工具。Anthropic 同步要求员工"像同事一样"与 METR 共享信息,但明确表示不会向 METR 付费,也不会干预其报告发布,客户数据、律师-当事人特权信息与模型架构等敏感内容除外。这是 9 月 Amodei 与 Altman、Musk 罕见联手呼吁"前沿 AI 实验室引入嵌入式外部审计师"后的首次落地。OpenAI 至今未公布类似机制。
METR 此前曾参与调查 OpenAI 内部模型窃取 Hugging Face 数据一案,本次则直接入驻 Anthropic 旧金山办公室。Anthropic 把这套安排比作"银行监管——当一家银行的风险偏好可能伤害公众时,第三方需要提前看到"。Anthropic 同时还与埃森哲下属 Faculty、生物安全评估机构 SecureBio 维持合作,三方各承担不同安全方向的独立测试。METR 的资金来自个人捐赠、慈善基金会与英国 AI 安全研究所等政府机构,并不接受 AI 公司或员工的捐款。
背景:
2025 年起,模型能力快速跃升推动一批前沿实验室主动让渡"安全黑箱"。这次嵌入式审计的最大创新,在于 Anthropic 无权否决 METR 的公开报告——只能就客户数据等三类信息要求范围明确的删节,METR 还可以公开质疑删节范围。这与"内部安全团队先审、再选择性公布"模式有本质差异,也是 Amodei 用来在 IPO 前安抚投资人对"AI 失控"担忧的关键牌。Anthropic 估值据传已超过 2 万亿美元,今年还要把大量投资者推介时间留给安全实践。
影响:
对前沿 AI 实验室而言,Anthropic 这套模板可能成为行业默认基线——OpenAI、Google DeepMind、xAI 都将面临"你为什么还没引入嵌入式审计"的拷问。对 METR 来说,其身份将从"行业共享的影子评估机构"升级为"半常驻实验室"角色,评估影响力上升,但也面临"独立性 vs. 长期绑定某家客户"的新质疑。长远看,独立 AI 安全审计有望出现标准化的资质认证、数据访问权限规范、可对照的"红队能力分级",监管机构未来在跨境合规互认时也可能直接援引 METR 报告做技术参考。
总结:
Anthropic 把"安全审计"从一次性白纸黑字搬进了日常办公现场——METR 有权写、有权发、甚至可以公开反问 Anthropic 的删节,这套把外部评估师"坐到工位上"的安排,正在重新定义前沿 AI 的责任边界。
参考来源:
- https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/
- https://wallstreetcn.com/livenews/3179643
- https://www.khanlist.com/story/anthropic-gives-outside-ai-watchdog-employee-like-access-796bbd79
- https://www.anthropic.com/research/expectations-for-the-future
- https://www.anthropic.com/research/employment-at-anthropic
- https://aidirectory.com/news/anthropic-metr-employee-like-access-ai-safety-evaluations
- https://dailyartifact.ai/story/anthropic-gives-outside-ai-watchdog-employee-like-access-13qem
- https://subvolts.com/anthropic/web/news/anthropic-gives-outside-ai-watchdog-employee-like-access-56b1c8







