27B大模型首次改写自身权重 准确率提升6.6个百分点
时间:2026年11月20日,《Language Models Can Rewrite Their Own Weights》这篇论文进入公众视野。它于11月16日首次提交 arXiv,11月18日更新为 v2 版本,当日起被中文与日本媒体集中报道。
地点:论文由美国伊利诺伊大学厄巴纳-香槟分校、斯坦福大学、普林斯顿大学、耶鲁大学等机构的研究团队完成,论文摘要与全文托管在 arXiv(编号 2611.21885),Hugging Face 设有对应论文页。
人物:论文第一作者 Jiajun Fan,与 Neil He、Changyi Yang、Andy Mao、Xi Zhu、Chaoran Cheng、Kaiqu Liang、Shuaike Shen、Zetian Li、Ruihan Guo、Ge Liu 等人合作。
事件详情:论文提出 self-rewriting(自改写)机制,把模型自身权重、经过评分的自身回答以及运行自身的能力交给模型,让它仅凭自身推理诊断失误、编写权重修改代码,再通过测试决定是否保留修改,整个过程不用梯度,也不运行训练优化器。在预先固定的配对检验中,27B 开放模型的一次有效修改让它在 490 道从未见过的问题上准确率提高 6.6 个百分点:第 8 次会话的修改把准确率从 57.2% 提升到 63.8%,仅靠该修改答对的题目有 439 道,只靠未修改答对的只有 182 道,第 2 次会话的修改达到 61.3%。论文还让模型修复一个被人为破坏的副本,模型只被告知部分数值被破坏,没有拿到完好权重,最终自行定位到受损矩阵并写入新数值,修复方法只通过文本数学题找到,却让副本在从未见过的图像任务上恢复到基础模型准确率的 83%,ScreenSpot-v2 从 0% 回到 89%,而基础模型为 93%。规模效应同样明显:20 亿参数模型从未做出修改,40 亿模型多次撤回修改,90 亿模型提交了破坏自身表现的修改,只有 270 亿模型会按每次测量结果调整方案并决定是否保留,最初 8 次会话中它有 5 次撤回修改,实际使用的模型表现只升不降。
背景:过去让模型变强,要么再训练一次,要么靠提示词、外部 harness 或推理期的额外计算,这些增益在任务结束后就消失。论文把自改写列为第三条路线:改进直接写进权重,不需要梯度与训练管线,只跑前向传播,像推理服务一样,因此不会给每次回答增加额外计算。作者认为自改写是通向递归自我改进的必要一步,并把训练与推理之间的界限称为工具的限制而不是智能的属性。
影响:可监控性成为新的安全议题。模型可以在思维链之外执行更多内部计算,思维链监控未必捕捉得到,这正是论文单独安排可监控性实验、并让模型在提交修改前先做测试的原因。能力依赖规模也很明显,从 20 亿到 270 亿四档模型的行为差异巨大,说明这种能力目前只在最大规模出现,短期内更像指向更大模型的研究信号,而不是通用能力。成本结构随之变化:如果自改写可行,模型可以在部署后持续升级,而不必等待下一轮预训练和大规模训练集群。论文同时建议,任何实际投入使用的自改写模型,每一版都应接受任务表现与安全性评估,并在使用前由人确认。
总结:这项工作第一次让一个 27B 开放模型仅凭自身推理改写自己的权重并因此变准,在 490 道未见问题上准确率提高 6.6 个百分点,还能把受损的副本修回接近原版的水平,全程没有梯度也没有训练。值得关注的不是那 6.6 个百分点,而是它把让模型变强的路径从再训练一次,扩展到模型自己动手改自己的权重。代价同样清楚:能力只在最大规模出现,循环式计算让思维链更难监控,论文因此建议每个版本都要评估并由人确认。
常见问题:
问:这是不是意味着 AI 已经能自我进化了?
答:还差得远,能力只在 270 亿参数这一档出现,20 亿模型没有做出修改、40 亿模型把修改全部撤回。
问:模型改写自己的权重安全吗?
答:论文建议实际使用的自改写模型每版都做任务表现与安全性评估,并在使用前由人确认。
参考来源:
arXiv 论文摘要页《Language Models Can Rewrite Their Own Weights》,v1 2026-11-16、v2 2026-11-18
https://arxiv.org/abs/2611.21885v2
arXiv 论文全文 HTML 版
https://arxiv.org/html/2611.21885v2
Hugging Face 论文页 arXiv:2611.21885
https://huggingface.co/papers/2611.21885
新浪财经(转载网易科技、智源社区)《首次!AI成功改写自身权重,UIUC等团队:迈向RSI的必要一步》
https://finance.sina.cn/stock/jdts/2026-11-20/detail-inizkctp0395622.d.html
人人都是产品经理《AI学会改自己的权重,涨了6.6个百分点:真正的门槛,是改完以后谁签字》
https://www.renrendaima.com/article/40290.html
GIGAZINE《AIが追加学習なしで自らのウェイトを書き換えて「自分自身を賢くする」ことに成功》
https://gigazine.net/news/20261120-large-language-model-can-rewrite-itself/
医药魔方(转载智源社区)《首次!AI成功改写自身权重,UIUC等团队:迈向RSI的必要一步》
https://bydrug.pharmcube.com/news/detail/b944ca2ec0f20107d85cae31af76bdce







