Unsloth开源决策模型 Qwen3.5准确率翻三倍

时间：2026年10月8日（北美时间10月7日发布） 地点：美国旧金山（Unsloth AI总部） 人物：Unsloth AI工程团队、Daniel Han（Unsloth联合创始人）、Cloudflare Clef开发团队 事件详情：知名开源大模型微调框架Unsloth于10月7日正式上线「Decision Model Trainer」（决策模型训练器），首次让开发者可在本地消费级显卡上把任意小尺寸LLM训练成可输出带概率结构化决策的决策模型。官方在Colab免费T4（4GB显存）上以Qwen3.5-0.8B为基座、用Cloudflare Clef风格的分类头配合LoRA（r=64）训练1个epoch后，将该模型在typed-decisions、BANKING77、CLINC150三项基准上的聚合准确率从20.7%拉升至43.7%，在3000行的留置评估中达到78%。整套训练支持Qwen3.5、Llama 3.2、Gemma 4等多个开源家族，4B模型可在Colab免费T4完成；9B和35B-A3B只需24GB显存，9B训练约10分钟，35B约49分钟。推理阶段跳过自回归解码，直接输出predicates（是/否概率）、choice（多选一）、score（有序评分）三类结构化结果，配套Decision API与Laya、Jev等接口兼容。 背景：决策模型（Decision Model）是2026年下半年从TypeSafe AI的Jev起步、随后被OpenAI Decisions API、Anthropic、亚马逊Strands Decider、Cloudflare Clef、Perplexity Decider等多家跟进的全新模型形态——它们放弃生成自然语言，专做带概率的分类与路由，速度可达传统LLM的5-40倍，成本降一个数量级。但此前阵营分化成两条路线：OpenAI、Anthropic坚持托管API，Perplexity、Cloudflare、亚马逊走开源权重。Unsloth此次发布相当于把决策模型的训练门槛也「开源化」——开发者无需依赖任何云端API，就能基于自己选定的开源基座训练专属决策模型，并能在本地消费级显卡上完成。Unsloth在文档中直接引用TypeSafe AI Jev的接口设计，因此训练完成的模型可被现有的Jev生态工具直接调用。 影响：1）按Agent生态大规模爆发后，每一步「要不要重试」「选哪个工具」「这条消息合不合法」的微决策都需调用一次模型，决策模型正是成本/速度护城河。Unsloth把训练门槛降到4GB显存+开源代码，等同于把决策模型从「巨头专属产品」变为「人人可微调的基元」；2）Cloudflare Clef风格分类头成为开源决策模型的默认技术路线，可能加速Clef规格成为行业事实标准，类似LoRA之于指令微调；3）Qwen3.5作为中国开源模型首次在「决策模型」这一新兴形态中充当官方推荐起点，进一步巩固中国开源模型在全球AI Infra层面的生态位；4）按Agent生态正面临「每千次操作调用百次决策」的现实，Unsloth教程配合Qwen3.5-0.8B训练成本几乎可忽略，可能催生大量「专为某个垂直场景训练的决策模型」。 总结：Unsloth用Jev兼容的接口设计 + 4GB显存训练 + Qwen3.5基座，把决策模型的训练能力塞进Colab免费笔记本，让任何一个开发者都能在十分钟内把0.8B模型调成78%准确的本地路由/审核引擎。当「模型形态」变成「可下载的代码+公开教程」，决策模型从云端API下沉为AI基础设施的又一层标准件，按Agent生态的成本曲线再次被重写。 参考来源： 1. Unsloth官方X（原帖，含原始数据截图）: https://x.com/UnslothAI/status/2107868866361930236 2. Unsloth Decision Model 教程页: https://unsloth.ai/docs/basics/train-your-own-decision-model-with-unsloth 3. Unsloth Qwen3.5 微调指南: https://unsloth.ai/docs/zh/mo-xing/qwen3.5/fine-tune 4. Unsloth Qwen3.5 文档总览: https://unsloth.ai/docs/models/qwen3.5 5. AlphaSignal 报道 - Unsloth Turns a 0.8B Model Into a Fast Decision Engine at 78% Accuracy: https://alphasignal.ai/news/unsloth-turns-a-0-8b-model-into-a-fast-decision-engine-at-78-accuracy 6. Unsloth GitHub仓库: https://github.com/unslothai/unsloth 7. Qwen3.5-0.8B Hugging Face GGUF: https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF 8. AI HOT 24h 精选收录: https://aihot.virxact.com/ 9. Cloudflare Clef开源介绍: https://blog.cloudflare.com/clef-open-weights-decision-models/