时间：2026年7月8日
地点：美国加利福尼亚州旧金山
人物：Anthropic公司研究团队、AE Studio合作研究团队
事件详情：Anthropic与AE Studio合作发布一项名为GRAM（Gradient-Routed Auxiliary Modules，梯度路由辅助模块）的前沿AI安全研究。GRAM为AI模型中的双重用途知识——如网络安全知识可用于修补漏洞也可用于攻击，病毒学知识可用于研发疫苗也可用于设计病原体——提供了一个可精确控制的知识"开关"。该方法在每个Transformer层中添加额外神经元，按双重用途类别分组为独立模块。训练时，模型遇到双重用途文本时仅更新对应模块，通用权重被冻结。训练完成后可直接删除该模块以消除相关能力，或保留供可信用户使用。该实验性研究目前尚未应用于Anthropic任何商用模型。
背景：当前大语言模型的安全防护主要依赖拒绝有害请求训练和输入输出分类器。但这些方法仅阻挡有害输出，并未改变模型底层存储的知识——一个足够坚定的攻击者仍可能通过越狱绕过防护。此前Anthropic曾探索在预训练数据中过滤CBRN（化生放核）武器信息，以及将双重用途知识限制在模型权重的可移除切片中。但过滤方法本质上是一种"一刀切"方案：若需要同时具备安全版本和专家版本的模型，就需要训练两个独立的前沿大模型，成本极为高昂。GRAM解决了这一矛盾，实现训练一个模型即可拥有多个安全配置版本。
影响：
- GRAM使AI开发者能以训练一个模型的成本获得多个安全配置版本，可分别面向普通用户与经过审查的专业用户，大幅降低AI安全合规的成本
- 该技术为AI模型的细粒度能力控制提供了全新范式——从"输出层防护"转向"知识层控制"，精准控制模型"知道什么"而非仅仅"回答什么"，从根本上提升了安全性
- 对于生物安全、网络安全等高危领域，GRAM使前沿模型可在受控环境中安全部署给生物安全实验室、关键基础设施运营方等可信机构使用，同时保障通用用户的安全基线
总结：GRAM方法代表了AI安全领域从"输出层被动防御"向"知识层主动控制"的重要范式转移。通过将双重用途知识封装在可移除的独立模块中，GRAM在安全性与实用性之间找到了优雅的平衡点。该方向为未来AI治理提供了极具前景的技术路径——当AI变得更加强大时，精确控制模型"知道什么"的能力将变得至关重要。GRAM有望成为下一代AI系统安全基础设施的关键技术之一。
参考来源：
- https://www.anthropic.com/research/off-switch-dual-use
- https://alignment.anthropic.com/2026/modular-pretraining/
- https://alignment.anthropic.com/2025/selective-gradient-masking/
- https://ae.studio/alignment