热门AI工具推荐

焚书AI多模型聚合平台
AI多模型聚合平台( Claude 系列、GPT 系列)支持聊天、搜索、图片、视频、音乐等多种功能;聚合了 Claude 系列(如 Sonnet 5、Opus 5 等)、Gemini 系列、GPT 系列、DeepSeek(搜索模式默认调用 DeepSeek V4 Pro)以及通义千问、Kimi 等数十款国内外主流模型。
AI编程订阅服务,支持多款国产主流编程模型自由切换。
Seedance 2.0AI视频生成
具备卓越的物理真实性和角色一致性,可生成电影级视频内容。
方舟 Agent PlanAI智能体订阅
火山引擎推出的全场景AI智能体订阅服务,通过一个订阅整合5大主流模型和10+AI工具
SpeedAIAI内容检测降重
AI内容检测与降重工具,能有效帮助用户通过论文AI率检测
秒哒AI工具
不懂代码也能开发应用?百度秒哒:无需编程,快速搭建小程序与网站
有戏AIAI漫剧生成工具
全流程AI短剧创作工具,实现从剧本到成片的自动化生产,让“一人即剧组”成为现实。
沁言学术智能科研平台
一站式文献管理与科研写作工具,支持边写作边搜索文献,高效阅读,文献管理,

OpenAI对抗蒸馏攻击 成功率降至0.2%

时间:2026 年 11 月 20 日 地点:OpenAI 官方博客(线上发布) 人物:OpenAI 安全研究团队 事件详情: OpenAI 于 11 月 20 日发布安全研究文章《Combatting adversarial distillation》,详细披露了针对未经授权模型蒸馏攻击的防护体系。在 GPT-6.2 Astra 的内部测试中,对抗蒸馏攻击的成功率从先前的 54% 降至 0.2%。 所谓对抗蒸馏,是指行为方未经授权使用前沿模型的输出训练出能力相近的新模型,再以更弱甚至缺失的安全防护将其部署。OpenAI 指出,此类攻击在网络安全与生物安全等两用领域风险尤为突出:原本用于帮助防御者发现软件漏洞的模型,可能被用于协助攻击者利用漏洞;辅助生物学研究的模型也可能被用于制造有害病原体。一旦前沿模型的能力被蒸馏到防护更弱的模型中,该模型可能提供原模型本来会拒绝的协助。 背景: OpenAI 在 GPT-6.2 Astra 的 System Card(11 月 16 日发布)中已将其生物与化学能力评级定为「High」阈值。此次披露的防护体系分两层运作:在请求层面,输入分类器识别蒸馏提取企图,输出分类器可在疑似泄露内容返回调用方之前实施拦截,覆盖流式与非流式响应及工具调用参数;在行动层面,OpenAI 通过请求与账号信号的组合模式识别有组织的批量提取尝试。 团队还发现,保护完整推理痕迹(chain-of-thought)比仅使用推理摘要更有效:在同一预训练学生模型的对比实验中,以完整推理痕迹做微调的版本在多项基准上普遍优于仅使用推理摘要的版本。这意味着即便教师模型执行的任务本身符合使用政策,保护完整推理痕迹仍可限制网络攻击能力的迁移。 影响: GPT-6.2 Astra 还引入了「Control Room」机制,使 OpenAI 能够在研究环境中实时掌握模型处理状况,并在必要时停止模型运行。该机制配合蒸馏防护体系,使 OpenAI 成为首家在部署层面系统性对抗蒸馏的 AI 实验室。 此次防护升级与 GPT-6.2 System Card 中披露的其他安全数据相互印证:GPT-6.2 Astra 在越狱抵抗力上较前代有所退步,但 OpenAI 通过蒸馏防护与拒答功能强化进行了补偿。 OpenAI 表示将继续与行业共享经验,强化整个 AI 行业的蒸馏防护,并呼吁其他实验室共同建立蒸馏防护标准。 总结: OpenAI 此次披露的对抗蒸馏防护体系,将 GPT-6.2 Astra 的推理痕迹提取成功率从 54% 压至 0.2%,标志着 AI 安全从「对齐训练」延伸到「模型能力流出防控」的新阶段。随着前沿模型能力持续提升,蒸馏防护正从可选措施变成行业刚需。 常见问题: 问:什么是模型蒸馏攻击? 答:未经授权使用前沿模型的输出训练新模型,且不保留原模型的安全防护措施。 问:0.2% 的攻击成功率是怎么测出来的? 答:OpenAI 在内部测试中衡量了尝试从 GPT-6.2 Astra 提取受保护推理内容的攻击成功率。 参考来源: OpenAI 官方博客 https://openai.com/index/combatting-adversarial-distillation/ IT时代网 https://www.itsdw.cn/news/50743.html Economic Times (India) https://enterpriseai.economictimes.indiatimes.com/news/industry/openai-reduces-success-rate-of-ai-reasoning-theft-attacks-to-0-2/136046992 Asianet News https://newsable.asianetnews.com/business/openai-strengthens-ai-model-safeguards-against-unauthorised-attacks-articleshow-g39i408 韩国 AI 时报 https://www.aitimes.kr/news/articleView.html?idxno=42831 Mallory.ai https://mallory.ai/stories/01a1eb8c-c679-75eb-b70f-ea268fc78a37

OpenAI · 更多动态

进入专题

同日其他快讯

11月21日 汇总