Anthropic AAR自动化对齐 6小时超人类

时间：2026年8月28日（北美时间） 地点：美国旧金山（Anthropic总部） 人物：陈岳翰（Chen Yueh-Han，Anthropic Fellow，论文一作）、Jiaxin Wen、Jan Hendrik Kirchner（Anthropic Fellows Program成员） 事件详情：Anthropic于8月28日发布论文《Automated Researchers Can Reliably Mitigate Alignment Failures》，首次完整披露其"自动化对齐研究员"（Automated Alignment Researcher，AAR）系统的研究成果。AAR基于Claude Opus 4.8构建，能自主搜索文献、提出训练方法、用约30分钟在单卡H200上微调模型，并通过多次迭代逐步提升安全基准表现。论文在10类对齐失败基准（包括欺骗、谄媚、越狱、隐私泄露等）上测试，最佳AAR方法均显著降低了目标失败率，且未损害MMLU、GSM8K、IFEval等通用能力基准。更关键的是，最佳方法可泛化到未见过基准、多轮Petri行为审计，以及比训练时大4.7倍的模型。作为对照，28位资深人类研究员每人最多有8小时开发方法，但其结果不及最佳AAR方法；使用人类思路作为AAR初始方向也不提升表现，说明当前AAR不再需要人类研究员指引。论文还给出成本对比：AAR每小时API推理成本约4美元，而Anthropic人类研究员时薪150美元。 背景：对齐研究的速度是当前AI安全领域最大的瓶颈之一。随着模型能力快速提升，人工设计对齐方法的效率越来越跟不上模型迭代速度。Anthropic此前已探索RLAIF（用AI反馈替代人类标注）等自动化对齐方法，但AAR走得更远——让AI自主做研究闭环：提出假设、设计实验、训练模型、分析结果、迭代方法。同期Anthropic Fellows Program也在6月初的《When AI Builds Itself》报告中披露，2026年Q2 Anthropic代码库超过80%的合并代码由Claude直接生成，单工程师日均代码合并量较2024年增长约8倍，METR任务时长视野翻倍周期从7个月缩短至4个月，"递归自我改进"已具备工程雏形。 影响：1. **成本与效率颠覆**：AAR每小时成本仅4美元（API推理），相比人类研究员的150美元/小时降低约97%；最佳AAR方法以平均6小时胜过28位资深研究员合计224小时的工作量，单位算力产出大幅提升。2. **可迁移性强**：方法可泛化到4.7倍规模模型，意味着同一套对齐方案可在大模型上重复应用，避免重复设计。3. **对齐研究自动化里程碑**：论文将此视为"自动化对齐后训练可能在近期变得实用"的早期证据，是通向递归自我改进的关键一步。4. **局限依然显著**：自动化系统依赖基准能否真实反映对齐目标，且将同样的最佳方法用于Claude Sonnet 4实际生产训练时未取得统计显著提升，距离"直接改进生产级Claude对齐"仍有距离；研究还承认存在"奖励机制博弈"和"外星科学"等风险——当AI提出的对齐方法越来越超出人类理解范围时，验证有效性将成为结构性难题。 总结：Anthropic通过AAR系统展示了自动化对齐研究的早期可行性——AI可在数小时内完成资深人类研究员的对齐方法设计工作，且方法具备良好的跨模型泛化能力，单位研究成本下降约97%。这一进展为降低对齐研究门槛、推动AI递归自我改进迈出关键一步；但研究同时坦承其在生产级对齐训练中尚未取得统计显著提升，对齐研究中"决策环节"——哪些问题值得研究、哪些结果值得信任——仍由人类掌控，全面自动化对齐仍是中长期目标。 参考来源： 1. https://alignment.anthropic.com/2026/automated-alignment-researchers/ 2. https://techcrunch.com/2026/08/28/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai/ 3. https://ukpulse.co.uk/news/anthropic-research-shows-ai-improving-its-own-alignment-performance 4. https://wpnews.pro/news/anthropics-claude-outperforms-human-researchers-on-deception-alignment-tasks-in 5. https://wpnews.pro/news/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai 6. https://thorstenmeyerai.com/8380/