一个判断模型的训练账单只要一百零四美元。这价格把"人人都能自训"的门槛又踩低了一截,supersonicai 发布的 julia-1 是开源权重的判断类模型,走的路子跟 Jev 同源。
演示跑在一台笔记本上。M5 芯片的 Mac,本地每秒约一千五百个 token,实时给一通电话算诈骗风险和风险分类。中等复杂度的分类活,它干得像模像样。
参数只有一点四四亿,训练成本一百零四美元。这两个数字放一起才是重点,不是旗舰的平替,是把一整类任务的成本打进了个人预算。
结合前两天那几条看更有味道。有人在笔记本上自训出碾压云端的领域模型,有论文说技能效果取决于模型,现在连训练本身都便宜到可以随手一试。判断这条线,从调用、装技能一路走到了自己造。
我的保留是它终究只做分类这一件事,跨任务的通用性不用指望。但按需专训的思路已经清晰,下次遇到重复的判断活,可以先问问自己,一百零四美元值不值得花。
话题来源 @thommyyu
15.1K阅读 ❤️145 x.com/…↗ 已改写,非原文转载
133 浏览 0 评论
0 反应












