递归自我改进被 Sakana 换了个走法,新方法叫 MASS。不再靠单个模型自己磨。而是靠一整队虚拟分身互相挑错。这走法我看完先记那条流水线再掂瓶颈那半句。记的掂的点在下面一层层摆。摆好了看流水线,线在下面摆着,摆好了自己跑。
流水线是这样铺的。一个共享的大模型带着一队虚拟子智能体解任务。解完自己去搜更好的多智能体干活路子。再用自己的判断把最好的那批挑出来。摆的第二层是它给自己下的那道补给,补给是在最佳团队的执行上做训练。
把整队的集体经验蒸馏回这个共享模型自己身上。摆的第三层在下面摆着。摆好了别眨眼。眨眼就翻过去了,过去一页少一页,少一页都是损失。损失不起的往下看,看下段,下段是那个前提,提读完这篇就通了。通了就收工,收工的礼数在下段,下段是最后的门。推开它。推。
前提是这样立的。人工智能啃的开放研究题越来越长。人类专家既难评判结果也难指点下一步。模型自己往往就是手头最好的优化器和评估器。难就难在怎么让这条自监督的循环真的有用。因为同一个模型很容易把自个儿的盲区越养越大而不是纠过来。
立的第四层是这个方案给同行的分量。分量是把评判者的角色也拆给了队里、让集体意见去顶单个视角的偏。摆的第五层在下面摆着,摆好了看那组数字,字读完这篇就通了。通了就收工。收工的礼数在下段。下段是最后的门,推开它,推。
数字是这样摆的,两轮循环。用一个 27B 开放权重模型。在合成的开放式研究任务上跑。第二轮之后每个输出令牌的得分做到了基线的一点二到一点六倍。跨四个研究基准都成立,摆的第二层是三个关键结果。
结果一是这种 RSI 循环里出现了角色泛化。只拿被优化者的任务数据去训。优化器和评估器两边的能力都跟着涨。结果二是多智能体的轨迹比单智能体的轨迹当训练数据更划算。结果三是卡住改进速度的往往是优化器的容量而不是评估器。摆的第六层是我的保留。
再补一层给同行的,这套做法最值得抄的地方有三样。第一样是把筛选压力放在团队这一层而不是单个输出上,第二样是让同一个模型在不同角色里轮岗。逼它换视角,第三样是拿分数当路标而不是当奖状。三样凑齐了,循环才不会变成自嗨。另外它选的赛道是合成的开放式研究任务,好处是评价标准天然清楚,坏处是离真实科研还有距离,落地前得先想清楚这层。
再补一笔给看热闹的,这套循环里最反直觉的一点是让模型去当裁判。因为裁判和选手是同一个脑子,所以它必须先把队里的分歧攒够。让多数意见去压少数偏见,这一步比多训几轮都关键。
再补一笔给看热闹的,从工程角度讲这套循环最难复现的地方是工作流的搜索空间。因为每个虚拟分身的提示、上下文和工具都不一样。组合爆炸得很凶,Sakana 用共享权重把这块成本压下来。这一步比论文里的分数更值得学。
再补一层给好奇的,别被递归自我改进六个字吓住。它现在的形态其实更像一个带评委团的内部竞赛,模型既是选手又是评委。靠队内的多数票去抵消单点偏见,距离科幻小说里那种自我狂奔还隔着安全护栏的十道锁。
顺手记一笔给路过的,这条路线如果真走通。模型训练的燃料就从人写的教材换成了它自己队伍的作业,这件事的分量不亚于当年把无监督学习推上台。
最后一笔给同行的,想复现这套循环的人先把评分器训稳、再谈优化器,顺序反了只会空转。
点评两句。第一句是把评判者拆进队里这步今年值得所有研究自我改进的人学一发,学了的循环才不容易自己骗自己。
博客在这,pub.sakana.ai/mass/ ,论文在这 arxiv.org/abs/2610.12176 ,代码在这 github.com/SakanaAI/mass ,看完的点赞,句号。













