OpenAI对抗蒸馏攻击 成功率降至0.2%
时间:2026 年 11 月 20 日
地点:OpenAI 官方博客(线上发布)
人物:OpenAI 安全研究团队
事件详情:
OpenAI 于 11 月 20 日发布安全研究文章《Combatting adversarial distillation》,详细披露了针对未经授权模型蒸馏攻击的防护体系。在 GPT-6.2 Astra 的内部测试中,对抗蒸馏攻击的成功率从先前的 54% 降至 0.2%。
所谓对抗蒸馏,是指行为方未经授权使用前沿模型的输出训练出能力相近的新模型,再以更弱甚至缺失的安全防护将其部署。OpenAI 指出,此类攻击在网络安全与生物安全等两用领域风险尤为突出:原本用于帮助防御者发现软件漏洞的模型,可能被用于协助攻击者利用漏洞;辅助生物学研究的模型也可能被用于制造有害病原体。一旦前沿模型的能力被蒸馏到防护更弱的模型中,该模型可能提供原模型本来会拒绝的协助。
背景:
OpenAI 在 GPT-6.2 Astra 的 System Card(11 月 16 日发布)中已将其生物与化学能力评级定为「High」阈值。此次披露的防护体系分两层运作:在请求层面,输入分类器识别蒸馏提取企图,输出分类器可在疑似泄露内容返回调用方之前实施拦截,覆盖流式与非流式响应及工具调用参数;在行动层面,OpenAI 通过请求与账号信号的组合模式识别有组织的批量提取尝试。
团队还发现,保护完整推理痕迹(chain-of-thought)比仅使用推理摘要更有效:在同一预训练学生模型的对比实验中,以完整推理痕迹做微调的版本在多项基准上普遍优于仅使用推理摘要的版本。这意味着即便教师模型执行的任务本身符合使用政策,保护完整推理痕迹仍可限制网络攻击能力的迁移。
影响:
GPT-6.2 Astra 还引入了「Control Room」机制,使 OpenAI 能够在研究环境中实时掌握模型处理状况,并在必要时停止模型运行。该机制配合蒸馏防护体系,使 OpenAI 成为首家在部署层面系统性对抗蒸馏的 AI 实验室。
此次防护升级与 GPT-6.2 System Card 中披露的其他安全数据相互印证:GPT-6.2 Astra 在越狱抵抗力上较前代有所退步,但 OpenAI 通过蒸馏防护与拒答功能强化进行了补偿。
OpenAI 表示将继续与行业共享经验,强化整个 AI 行业的蒸馏防护,并呼吁其他实验室共同建立蒸馏防护标准。
总结:
OpenAI 此次披露的对抗蒸馏防护体系,将 GPT-6.2 Astra 的推理痕迹提取成功率从 54% 压至 0.2%,标志着 AI 安全从「对齐训练」延伸到「模型能力流出防控」的新阶段。随着前沿模型能力持续提升,蒸馏防护正从可选措施变成行业刚需。
常见问题:
问:什么是模型蒸馏攻击?
答:未经授权使用前沿模型的输出训练新模型,且不保留原模型的安全防护措施。
问:0.2% 的攻击成功率是怎么测出来的?
答:OpenAI 在内部测试中衡量了尝试从 GPT-6.2 Astra 提取受保护推理内容的攻击成功率。
参考来源:
OpenAI 官方博客
https://openai.com/index/combatting-adversarial-distillation/
IT时代网
https://www.itsdw.cn/news/50743.html
Economic Times (India)
https://enterpriseai.economictimes.indiatimes.com/news/industry/openai-reduces-success-rate-of-ai-reasoning-theft-attacks-to-0-2/136046992
Asianet News
https://newsable.asianetnews.com/business/openai-strengthens-ai-model-safeguards-against-unauthorised-attacks-articleshow-g39i408
韩国 AI 时报
https://www.aitimes.kr/news/articleView.html?idxno=42831
Mallory.ai
https://mallory.ai/stories/01a1eb8c-c679-75eb-b70f-ea268fc78a37







