开源模型训成自己的:Together 开放后训练

AI大土豆 @suanwan

开源模型谁都能下载,但下载下来的那份,不算你的模型。Together 10 月 19 号把后训练做成了服务:配方你写,算力它出,训完的权重归你。SFT 和 RL 两条路都开。

分工线画在哪儿,是我最先看的地方。数据、奖励、环境、整个训练循环,全是你的代码;Together 管底下的 GPU、并行方案、生成引擎,还有 RL 最容易翻车的一环,生成端和训练端对不上。

它把这一步摊得很开:训练端要对齐生成端的输出精度,MoE 模型要重放同一批专家选择,旧样本要在损失里做修正。这套东西自己搭要花多久,碰过 RL 的人都有数。所以"我们跑掉难的部分"这句,我买账。

真正让我停了一下的是奖励模型那一栏:没有。奖励、判分器、沙箱都算你的代码,它只负责生成和收训练信号。效果好坏的另外半边,他们不打算替你兜。这一步放手放得对,代价也在这:配方不行,底下的工程再漂亮也救不回来。

循环写得也直白。一步 RL 就是 sample()、your_reward()、forward_backward()、optim_step()、weights_sync() 五个函数,SFT 把 sample 和同步权重两个去掉。

多个实验可以挂在一份 GPU 预留上,时费不另算;训完把适配器放到同一个端点上比,赢家拿去部署,权重整包下载。产品页和 cookbook 在这:together.ai/post-training 和 github.com/togethercomput…

现在能训的有 Z.ai 的 GLM-5.3、Moonshot AI 的 Kimi K3、Qwen3.8 27B、Qwen3.6 35B A3B。钱按 GPU 分钟算,只在资源就绪时收;排队、启动、关停免费,闲一小时资源自己停。

话题来源 @togethercompute 18K阅读 ❤️103 x.com/…↗ 已改写,非原文转载 Together Post-Training: RL and SFT for Open Models | Together AI Turn open models into custom models with RL or SFT. You own the training loop; Together handles the hard infra so you train better models, faster, for less. www.together.ai
60 浏览 0 评论 1 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单