OpenAI 邀外部機構進駐檢驗AI安全
时间:2026 年 11 月 16 日,OpenAI 宣布启动第一阶段嵌入式评估(Embedded Assessments)计划,与四家独立安全机构签署合作协议,允许外部专家深入公司内部,对 AI 模型的安全性、对齐程度和防护机制进行直接检验。
地点:该计划由 OpenAI 总部主导,外部评估专家将进驻 OpenAI 办公室并使用公司提供的设备开展工作。
人物:OpenAI 安全与政策团队;四家独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 的研究人员。
事件详情:OpenAI 于 11 月 16 日正式公布嵌入式评估计划,首批合作伙伴包括 Apollo Research、METR、Transluce 和 Goodfire。根据协议,外部专家将获得对未发布模型、源代码、训练与评估资料、监控系统及技术文档的受限访问权限,并能直接与 OpenAI 研究人员交流。Apollo Research 将派遣六名评估员进行为期四个月的试点,重点调查训练过程是否会鼓励模型暗中违背开发者意图、现有评估是否会诱发此类行为,以及相关推理是否可被检测。METR 将检验 OpenAI 迄今规模最大的强化学习训练作业,寻找现有测试未发现的模型行为偏差。Transluce 负责检查模型训练后安全评估的品质与涵盖范围,并计划于 2027 年初展开约八周的后续评估。Goodfire 则派遣可解释性研究人员进驻,分析模型内部机制以协助改善训练监控与模型对齐。值得注意的是,OpenAI 保留对评估报告中机密度资讯的编辑权,而 Apollo Research 与 Redwood Research 批评该安排未达到真正的员工级访问权限。
背景:AI 模型的安全评估长期依赖发布前的 API 测试,但这种方法无法覆盖训练过程中的隐性风险。随着模型能力快速提升,业界开始呼吁在模型开发全周期嵌入独立第三方评估。OpenAI 此次推出的嵌入式评估计划,正是对这一呼声的回应,也是履行《白宫超级智慧协议》安全承诺的一部分。
影响:这项计划首次将外部安全研究员以“进驻”形式带入前沿 AI 实验室内部,可能改变行业对模型安全的检验方式。对 OpenAI 而言,这是应对监管压力和修复公众信任的关键举措;对评估机构而言,受限的访问权限和编辑权安排也引发了关于评估独立性的讨论。若后续报告证实模型存在可被检测到的对齐问题,可能进一步推动全球 AI 监管机构要求强制第三方嵌入式评估。
总结:OpenAI 通过嵌入式评估计划,试图在“开放监督”与“保护商业敏感资讯”之间寻找平衡。虽然四家机构的加入代表了外部监督的扩大,但评估权限的限制也意味着这并非完整的独立认证。AI 安全评估的未来,将取决于这些试点能否在有限权限下 still 发现实质性问题,以及行业是否愿意接受更高透明度的标准。
参考来源:
iThome
https://www.ithome.com.tw/news/180565
Blockchain.News
https://blockchain.news/ainews/openai-launches-embedded-assessments-with-outside-experts
Mallory
https://mallory.ai/stories/01a1e8fb-e281-7a96-b2d6-5073369a6731
Unite.AI
https://www.unite.ai/openai-signs-four-independent-assessors-for-embedded-safety-reviews/
Economic Times
https://enterpriseai.economictimes.indiatimes.com/amp/news/industry/openai-brings-independent-researchers-in-to-assess-ai-safety-risks/135912050







