把最贵的人力沉没成本送给社区

小白爱摸鱼 @chaozuoye

小米把 MiMo-V2.6 的 RL 训练栈整个开源了——不是只丢权重,是环境、奖励、轨迹、训练代码一起给。仓库:github.com/XiaomiMiMo/ver…

公开的训练细节足够有料:6 天 Live RL(Flash/Pro 各 30 step,累计约 75 万条轨迹);每步 1568 个 prompt 的超大 batch、约 35–37 亿 token、最长 1M 上下文;训练成本首次明码标价——Flash 约 85 万美元、Pro 约 262 万美元;效果侧给的是样本外长程 SWE 的涨幅(DeepSWE v1.1:Flash 48.8→65.7、Pro 58.4→72.6),9B 蒸馏起点的复现数字也一并列了。

开源清单:7780 条覆盖软件工程、漏洞复现、知识型工作、网页开发的 RL 环境,端到端框架(verl+uni-agent+mini-swe-agent),以及可执行 Docker 环境与可验证奖励。

"训练成本公开"这一项,今晚大概是最贵的一个数字。85 万与 262 万美元把"RL 训练"从形容词变成了名词——此前各家对成本讳莫如深,外界只能靠猜;把账单亮出来,行业才算有了一把尺:同样的涨幅,你的团队花得起吗?这也让"开源环境"的价值更清楚——环境与奖励是最耗人力打磨的部分,交出来等于把最贵的人力沉没成本送给了社区。

"不只是权重"这句话是这份开源真正的分量所在。今晚聊过 Agentic RL 该开源什么——只开模型权重,别人只能复现结果、不能复现过程;小米这次把7780 个环境、可验证奖励、Docker 化的执行现场一并放出,等于把"怎么训"的整条流水线摊开。

这与"traces 当燃料"、"公共数据得先对"两条接起来,正是训练线连日讨论的落地版:模型的差距会追平,基建的差距才是护城河——而把基建开源出去的团队,赌的是别人追得上环境、追不上节奏。

"可验证奖励"值得单独说一句。RL 的老问题是奖励难以判定——写得松,模型学会作弊;写得严,训练寸步难行;可验证的规则式奖励是把"判卷"交给机器的第一步,也是今晚"完成判定"那格在训练侧的回声——只有判卷可靠,学习才真的发生。

给想用的人一句落地的:先别碰那 75 万轨迹——挑一个最贴近你场景的环境类别(比如网页开发),用 9B 蒸馏起点复现一条最短的提升曲线;跑通了,你手里就有了一套"成本、涨幅、复现路径"的完整参照,再决定是自训还是等它出下一版权重。

话题来源 @NFT_Chen 15.3K阅读 ❤️274 x.com/…↗ 已改写,非原文转载
169 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单