GPT-6.2蒸馏防护升级 提取成功率降至0.2%
时间:2026年11月20日
地点:美国
人物:OpenAI安全团队
事件详情:OpenAI于11月20日发布《Combatting adversarial distillation》安全公告,宣布已加强对GPT-6.2 Astra与GPT-6.2 Sol两款模型的内部推理思考链(Chain-of-Thought)保护,以遏制未经授权的蒸馏攻击。据OpenAI官方博客(https://openai.com/index/combatting-adversarial-distillation/)披露,在内部自适应黑盒红队测试中,攻击者提取模型「此前请求」中受保护推理内容的成功率,从GPT-6 Astra原有安全机制下的54.0%降至GPT-6.2 Astra更新后的0.2%;提取「当前请求」推理内容的成功率从22.9%降至0.9%。上述测试综合了6个攻击模型的数据。IT之家报道称,OpenAI还将选定的防护改进同步应用到了原版GPT-6 Astra(https://www.ithome.com/1/030/319.htm)。
背景:所谓对抗性蒸馏,是指未经授权地利用前沿AI模型的输出训练其他模型,使后者获得相似能力,却不具备原模型相应的安全防护。OpenAI认为,该行为可能将网络安全、生物学等领域的高风险能力转移到安全限制较弱的模型中。为应对上述风险,OpenAI采用了多层防护措施:通过对抗性训练让模型识别并拒绝推理链提取请求;利用输入和输出分类器检测相关攻击及推理内容泄露;通过API限制不同会话、模型和组织之间的推理内容复用。GPT-6.2 Astra和GPT-6.2 Sol还会将受保护推理内容与生成它的对话历史关联——如果此前消息被修改,API将丢弃基于该消息生成的后续推理内容;安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容(https://app.qudong.com/article/530342.html)。
影响:此次防护升级的直接影响是,通过提取GPT-6.2系列推理链来低成本复制模型能力的路径被显著收窄。54%到0.2%、22.9%到0.9%这两组数字意味着,攻击者从前需要多次尝试即可拼出完整推理逻辑,现在几乎无法稳定提取。在执法层面,OpenAI披露今年以来每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等,今年夏季以来相关执法规模明显增加;公司还会与其他模型提供商分享攻击指标,以协助识别相关滥用行为(https://ciso.economictimes.indiatimes.com/news/vulnerabilities-exploits/openai-improves-ai-models-safety-reducing-unauthorized-extraction-attempts-by-over-50/136043816)。Asianet News报道称,OpenAI正将此次升级视为行业安全标准的一部分进行推广(https://newsable.asianetnews.com/business/openai-strengthens-ai-model-safeguards-against-unauthorised-attacks-articleshow-g39i408)。
总结:OpenAI此次公告不仅是一次产品安全升级,也标志着前沿模型厂商对「蒸馏竞争」的态度转向主动防御。德国科技媒体The Decoder指出,Anthropic也在同步打击系统性蒸馏攻击,并已封禁数万个相关账号,成功率据称达到90%至99%(https://the-decoder.de/ki-datenklau-openai-macht-nachahmer-modellen-das-leben-schwer/)。OpenAI内部测试还发现,使用教师模型完整推理轨迹进行监督微调的学生模型,在网络安全能力迁移方面优于仅用最终答案和工具交互记录训练的模型——这一发现与行业普遍的「蒸馏捷径」思维形成对照。后续值得关注的是,GPT-6.2 Astra的防护能否持续抵御更复杂的提取手段,以及行业内是否会出现更统一的蒸馏治理标准(https://www.aitimes.kr/news/articleView.html?idxno=42831)。
参考来源:
IT之家 https://www.ithome.com/1/030/319.htm
OpenAI官方博客 https://openai.com/index/combatting-adversarial-distillation/
The Decoder https://the-decoder.de/ki-datenklau-openai-macht-nachahmer-modellen-das-leben-schwer/
Economic Times India https://ciso.economictimes.indiatimes.com/news/vulnerabilities-exploits/openai-improves-ai-models-safety-reducing-unauthorized-extraction-attempts-by-over-50/136043816
Asianet News https://newsable.asianetnews.com/business/openai-strengthens-ai-model-safeguards-against-unauthorised-attacks-articleshow-g39i408
驱动中国 https://app.qudong.com/article/530342.html
韩国AI Times https://www.aitimes.kr/news/articleView.html?idxno=42831







