Kev Vibe 项目

项目简介

Kev 是一套"Jev 风格"的小型决策模型家族，基于 Qwen3.5 / Qwen3.8 构建，架构参考《Jev's Architecture Unmasked》拆解的思路。与生成文本的聊天模型不同，Kev 接收一段文档状态，返回类型化问题的校准概率答案；预训练权重开箱即用，也支持自有数据训练。其 API 与 TypeSafe 的 System One 兼容，可直接把官方 Python SDK 指向本地 Kev 服务。

核心功能

• 单次请求混合提问：是/否（noul）、多选（choice）、评分（score）三类问题共用同一份文本，彼此不可见；

• 默认校准概率：每个检查点自带拟合温度，置信度可信；

• Jev 即插即用替代：TypeSafe Python SDK 无需改动即可对接 Kev 服务端；

• 四档尺寸 Kev 1.0：0.8B 笔记本可跑、4B、9B、27B 单张数据中心 GPU，统一版本标签发布；

• 长文档支持：上下文可达 65,536 token，覆盖 CUDA 与 Apple Silicon（MLX），模型卡标注精度随长度的变化；

• 自训与一键部署：用自有标注样本微调，编码智能体技能可在 Modal 上跑完整闭环；一条命令部署 HTTPS 端点，空闲缩容到零。

技术实现

Kev 的工作方式与聊天模型截然不同：输入是一段非结构化状态（合同、工单、日志皆可），输出是事先在接口层声明好的问题集合及答案空间，模型一次性并行给出所有答案与校准概率，不逐 token 生成字符串，因而没有"编造文本"的失败模式，输出天然可被程序校验。校准能力来自两段：训练阶段以校准决策为目标拟合模型，推理阶段每个检查点携带拟合温度，使置信度与真实准确率对齐。社区 Decision Index（14 个公开数据集）上，Kev-27B 机会校正指数 52.3，与托管 Jev 的 54.0 相差不到两个点；模型没见过的新来源数据上，Kev-27B 得分 0.851、Jev 0.857。工程上，0.8B/4B/9B 用冻结底座加轻量 Adapter 的低成本配方，27B 底座来自 Qwen 后训练版本、来源不可知，故全量微调并以 51GB 权重发布；全家族以 Kev 1.0 统一版本，GitHub Release 附 SHA-256 校验和。

快速上手

1. 先在 HuggingFace Space 浏览器试效果，按硬件选尺寸：默认 Kev-4B，显存充裕上 9B/27B，体积敏感选 0.8B；

2. 从 HuggingFace 拉取检查点（v1.0 标签锁定权重），或下载带 SHA-256 校验的 GitHub Release；

3. 启动本地推理服务，按 System One 兼容接口发送"状态 + 类型化问题"请求，读取答案与校准概率；

4. 需要私有化时用自己的标注样本微调，再用一条命令部署 HTTPS 端点，空闲缩容到零。

适用人群

需要在软件里嵌入可靠决策（分类、路由、评分、抽取、分支）的工程师；关注概率校准的算法与数据科学家；不希望被闭源 API 锁定、要求本地或私有化部署的团队；研究决策模型与小模型微调的研究者。

官方链接

https://github.com/jaredpalmer/kev （权重与体验：https://huggingface.co/spaces/jaredpalmer/kev）