Jared Palmer刚发布了Kev模型家族,包含0.6B、4B、8B三个版本,号称是开源版的Jev决策模型。这个项目基于Qwen3,用LoRA加小指针头技术训练,Apache 2.0开源协议。
我最感兴趣的是它的训练效率。Kev-4B在单张H100上40分钟就能训完,Kev-8B也只需要83分钟。对于想在自己数据上微调决策模型的团队来说,这个时间成本非常友好。
推理性能也很实用。Kev-4B在32GB内存的Mac上用bf16精度跑,五个问题大概300毫秒,换到H100上只要40毫秒左右。重复文档还能命中KV缓存,速度再快2-2.5倍。
在域外测试中,Kev-8B达到79.6%的准确率,Jev是85.7%。虽然还有差距,但考虑到开源和可训练的优势,这个结果已经很不错了。
API兼容性做得很好,Drop-in TypeSafe System One API,现有的SDK改一下base_url就能用。对于已经在用Jev的团队来说,迁移成本很低。
我有个朋友在做金融风控,他们之前用Jev做交易决策,现在想在本地部署但又不想付高昂的授权费。Kev-4B正好解决了这个问题——在Mac上就能跑,数据不出本地,合规性完全没问题。
项目地址:github.com/jaredpalmer/ke…
话题来源 @jaredpalmer
❤️184 x.com/…↗ 已改写,非原文转载
19 浏览 0 评论
0 反应














