用自己的数据调决策模型,现在半小时能跑完。前提是跑在免费额度的显卡上。
先看它给的东西有多齐。两本笔记本摆在那儿,覆盖三件事。怎么把训练数据准备出来。怎么拿数据去调那个三十亿参数的决策模型。以及两条工具链各自怎么走。一条路走 Unsloth 那套。另一条走 HuggingFace 的 TRL,两条路各自独立成篇,挑顺手的那条跟就行。
决策模型这个品类这两年悄悄冒头,它跟聊天模型不太一样,产出的不是漂亮话而是判断,比如给路由、分诊、分类这类活儿定性。调这种模型最麻烦的其实是第一步,数据格式怎么摆、标签怎么打,两本笔记本把这一步摊开写清楚了,省得自己摸黑试错。
我自己觉得最值钱的是它把门槛踩到了"免费档"。以前调模型总想着先租张卡再说,现在三十分钟在免费额度里跑完,等于连试错的成本都归了零,愿意折腾的人没有理由不试。
我唯一拿不准的是这类小参数决策模型的上限。三亿到三十亿这一档做分类够用。真接复杂的业务规则还差多少。得等有人拿自家数据跑过一轮才知道。
两本笔记本在这,Unsloth 那条 github.com/Liquid4All/coo… ,TRL 那条 github.com/Liquid4All/coo… 。
话题来源 @helloiamleonie
78.5K阅读 ❤️1971 x.com/…↗ 已改写,非原文转载
18 浏览 0 评论
0 反应













