小米MiMo V2.6 Pro和Flash的强化学习训练直播数据出来了,4天半时…

小米MiMo V2.6 Pro和Flash的强化学习训练直播数据出来了,4天半时间,两个模型合计烧掉了324万美元。这个数字让很多人直呼"有钱就是任性"。 具体来看,Pro版本花了238万美元,Flash版本花了85万美元。Pro还在继续训练,目前到了step 29,每小时消耗约2.06万美元,单步约30亿token。Flash在9月19日停在了step 30,每小时约1.03万美元,单步37亿token。 训练配置挺硬核的:1568个prompts乘以16个异步rollout,混训了23套harness,代码类任务占了约六成。过程中遇到了不少问题:GPU显存不足、节点VRAM问题、grader断网、基础设施故障还瞒了3小时。cyber数据因为坏rollout被砍掉了。 公开面板还在实时更新:mimo.xiaomi.com/rl/ Flash停了一天多,社区里有两种声音:有人觉得还能继续Scaling,有人认为这条run已经到顶了。从DeepSWE分数看,Pro是70.92,Flash是65.68,差距不算大。 这个训练成本确实吓人,但换个角度看,这可能是目前公开的最大的强化学习训练实验之一。对于想做类似项目的团队来说,这些数据提供了很实际的参考:需要多少算力、会遇到什么问题、成本大概在什么量级。 小米这次选择公开训练过程和数据,本身也挺有意义的。以前大家只能看到最终模型,现在能看到完整的训练过程,包括那些失败和故障。这种透明度在AI领域不多见。
话题来源 @NFT_Chen ❤️138 x.com/…↗ 已改写,非原文转载
19 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单