当AI改进自己：递归自我改进与AI监管

一个生僻概念——"递归自我改进"（RSI）近期突然成为AI界焦点。2026年6月16日，Anthropic发布报告《当AI开始建造自身》披露：截至2026年5月，其代码库中超过80%的合入代码由Claude编写，Claude智能体已累计执行约800小时开放式AI安全研究实验。 谷歌DeepMind的AlphaEvolve利用Gemini生成候选算法优化数据中心调度；OpenAI的GPT-5.3-Codex参与自身训练和部署；Meta的HyperAgents可修改元智能体。多家AI企业声称模型已具有RSI特征。 影响： - AI能力可能迎来指数级增长，引发"智能爆炸"风险 - 现有监管方案难以应对RSI带来的快速变化 - 专家呼吁建立"协调且可核查的暂停机制" - 需拆分研发闭环，防止AI掌握全部递归流程权限 总结：完整RSI尚未实现，但"部分递归"已引发安全担忧。Anthropic提出五级分类监管体系和四道"闸门"（能力闸门、资源闸门、评价闸门、部署闸门）以应对RSI风险。