时间:2026年10月9日提交arXiv,10月13日登上Hacker News首页。
地点:arXiv平台(论文发布)/ 英国伦敦(Hacker News讨论区)。
人物:Andis Draguns、Sumeet Ramesh Motwani、Raymond Douglas、Christian Schroeder de Witt。
事件详情:上述团队联合发布论文《AI Models Can Provably Hide Arbitrary Capabilities》,展示了一种全新的AI安全威胁——通过在模型权重中嵌入加密的神经网络后门,这些隐藏电路只在收到特定"秘密触发词"时才会解密并运行。研究团队在PyTorch中实现该方法,并证明即使审计者拥有模型权重的完全访问权限(白盒审计),也无法在不知道触发词的情况下提取或解释这些隐藏能力。
背景:当前主流的大模型部署前安全审计流程基于一个核心假设——危险能力可以被检测并提取。该假设支撑了多国AI监管机构对前沿模型的能力评估方法,包括英国AI Security Institute等机构采用的"能力提取测试"。
影响:测试结果令人警觉:研究团队用化学反应预测任务(CBRN相关能力的代理)测试,标准审计方法——包括微调、权重噪声、基于梯度的触发搜索、潜在对抗训练——全部失败。这暴露了当前AI审计体系的根本盲区:恶意行为者可以在公开发布的开源权重中埋入定时炸弹,仅在预设条件下激活,对AI供应链安全、国防AI和开源生态构成系统性威胁。
总结:这项研究已被NeurIPS 2026接收,论文长达22页含6张图表,研究团队已公开发布相关模型权重和代码,邀请社区研究防御方案。业界需要从"可提取"范式转向"可证明验证"范式,建立能看穿这些"数字保险箱"的审计工具。
参考来源:
1. https://arxiv.org/abs/2610.13928 (arXiv论文原文)
2. https://stridingtech.com/archives/7450 (Striding Tech深度分析)
3. https://www.contentbuffer.com/news/ai-models-hide-capabilities-under-adversarial-conditions-224c1021 (ContentBuffer报道)
4. https://deniz.in/researchers-show-ai-weights-can-cryptographically-hide-dangerous-capabilities-fr (Hacker News首页转载)
5. https://www.aiworldtoday.net/p/exploration-hacking (AI World Today相关分析)
6. https://inquiringlines.com/notes/capability-evaluations-are-vulnerable-to-sandbagging-because-language-models-can (Inquiring Lines学术评注)
7. https://www.worldaiinfo.com/papers (WorldAIInfo论文索引)







