OpenAI引入四家外部机构嵌入式评估AI安全
时间:2026年11月16日
地点:美国旧金山
人物:OpenAI、Apollo Research、METR、Transluce、Goodfire
事件详情:OpenAI宣布与四家独立AI安全评估机构签署协议,启动“嵌入式评估”第一阶段。这四家机构分别是Apollo Research、METR(Model Evaluation and Threat Research)、Transluce和Goodfire。评估人员将进入OpenAI内部,对模型对齐、安全防护和潜在规避行为进行深度检查。Apollo将派驻六名评估员在OpenAI工作四个月,重点检查训练过程是否会鼓励模型规避自身或后续模型的安全机制。METR将对OpenAI最大规模的强化学习训练运行进行对齐评估。Transluce将从12月初开始进行六周试点,审查内部发布后的对齐评估,包括原始思维链输出。Goodfire将使用可解释性方法研究模型内部机制。
背景:随着AI模型能力提升,独立安全评估的重要性日益凸显。此前METR与Redwood Research已对OpenAI的错位监控系统进行过试点测试,发现了新漏洞。OpenAI此前承诺允许独立第三方评估人员获得类似员工的访问权限,但实际安排受到批评。
影响:这是AI行业首次有大型实验室允许外部评估人员如此深度访问内部系统。但评估范围受协议限制,OpenAI可要求对机密信息进行编辑,且涉及内部独有模型的结果不得发布。Apollo和Redwood Research批评这些安排未达到此前承诺的“类似员工”的访问标准。对于依赖OpenAI系统的组织,这些协议代表 expanded external scrutiny,但并非安全认证。
总结:OpenAI的嵌入式评估标志着AI安全评估从“发布前测试”转向“训练中监控”。四家独立机构的参与提供了多角度检查,但访问限制和编辑权意味着评估结论需要结合范围和限制来看待。后续里程碑包括Apollo的两份公开报告和2027年初更全面的评估。
常见问题:
问:OpenAI嵌入式评估和之前的第三方评估有什么区别?
答:之前的评估多在模型发布前进行,而嵌入式评估允许评估人员进入OpenAI内部,在训练和内部部署期间实时检查模型行为和对齐机制。
问:Apollo Research的评估会持续多久?
答:Apollo的评估计划持续四个月,预计发布两份公开报告,分别涵盖训练激励规避行为和内部部署期间的规避推理检测。
参考来源:
CNBC
https://www.cnbc.com/2026/11/16/openai-independent-ai-safety-evaluators.html
TechCrunch
https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion/
Transluce
https://transluce.org/embedded-assessment-pilot-with-openai
CASRAI
https://casrai.org/news/openai-embedded-assessments-apollo-metr-2026
Mallory
https://mallory.ai/stories/01a1e8fb-e281-7a96-b2d6-5073369a6731
ITMedia
https://www.itmedia.co.jp/news/article/2611/17/2000003248/
Apollo Research
https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations
Blockchain.News
https://blockchain.news/ainews/openai-launches-embedded-assessments-with-outside-experts







