Jev的开源替代方案终于来了。Kev是一系列小型开源决策模型,基于Qwen3构建,采用LoRA加小指针头技术,可以自己训练和运行。
这次发布了三个版本:0.6B、4B和8B。在训练数据之外的测试中,Kev-8B达到79.6%的准确率,而Jev是85.7%。考虑到Kev完全开源且可自定义,这个差距完全可以接受。
我有个做电商的朋友,之前一直想用Jev优化推荐系统,但API成本太高。现在用Kev-4B,一张32GB的Mac就能跑,bf16精度下五个问题大约300毫秒,H100上只要40毫秒。重复文档还能利用KV缓存,速度快2到2.5倍。
训练成本也很低。Kev-4B在一张H100上40分钟就能训完,Kev-8B需要83分钟。Apache 2.0开源协议,商业使用完全没问题。
API兼容性做得不错,直接替换TypeSafe System One的base_url就能用,现有代码基本不用改。
有个做内容推荐的团队已经在测试了,他们说Kev在处理用户行为序列时的决策速度比传统方案快很多,而且因为是本地部署,数据隐私也有保障。
项目地址:github.com/jaredpalmer/ke…
话题来源 @jaredpalmer
❤️557 x.com/…↗ 已改写,非原文转载
21 浏览 0 评论
0 反应














