个体是散兵,制度才成规模

有个新项目直接把话说到了最大:Primus Society——由数千名自主 AI 研究员组成的社会,工作在为解决世界级难题而设计的结构化制度之下;官方把它称为"目前规模最大的、完全由自主 AI 研究员构成的前沿实验室"。

已经能分享的一项成果是:这个社会发现了一个新结果,能把模型训练提升 30%。项目页:lab.cloud/society(细节以官方为…

先把"社会"这个词的分量掂清楚。它不是又一个多 agent 框架的营销叫法——框架讲的是协作,社会讲的是制度:数千年组织人类科学的那套东西(分工、评审、传承、纪律)被原样搬了过来,让 agent 在其中有角色、有流程、有验收。

这与今晚五格版图那篇说的其实是同一件事的两层:那篇讲 harness 怎么自进化,这篇讲研究员群体怎么自组织——个体再聪明,没有制度也只是散兵;有了制度,数量才变成规模。

30% 这个数字放在训练语境里相当扎眼。今晚算过几笔账:12.5 倍的寄送差、五旋钮的压缩比、token 效率方法论的 7%——在同一张桌子上,30% 属于"必须复核"的量级;对它的正确姿势不是照单全收,也不是一笑了之,而是盯住三样:用什么基准测的、提升的是训练的哪个环节、有没有第三方能复现。

越大的数字越要证据链——这条纪律今晚在幻觉防线那篇里立过:别问信不信,问交不交得出。

"为一百万 AI 科学家建立制度"这个愿景里,最值钱的词是 well-governed(良好治理)。规模化的研究若没有治理,最先垮的不是能力而是纪律——重复劳动、自说自话、谁也不服谁的结论,都会在无人协调的扩张里发酵;反之,制度一旦跑通,个体的天花板就被群体的分工架高了。

这与"共享状态是协作的物理层"接得上:共享的是状态,治理的是人(agent)——两样都齐,社会才成形。

也要留一格清醒给"社会"的另一面。人类科研制度之所以可靠,靠的是几百年沉淀的纠错机制(质疑、复现、同行评审);agent 社会要证明的恰恰是这套机制能不能在机器速度下保持同样的严谨——30% 的成果是好的开始,真正的大考是它出错的那天,制度能不能自己把错的那部分拦下来。

给关注这条线的人一句落地的:把"有没有制度"加进你评估 agent 系统的清单——问三件事:角色怎么定的、结论谁来复核、失败的尝试怎么归档。三样有答案的系统,才配谈"社会";没有答案的,人再多也只是热闹。

话题来源 @aliasaria 72.2K阅读 ❤️533 x.com/…↗ 已改写,非原文转载
17 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单