干活的模型变大盯梢的模型变快

判断层正在从一段提示词变成基础设施，SGLang 这次更新把话说得挺直白。它拿 Qwen3.8-27B 先做出个能用的原型：多模态 Decision Model，百毫秒内出决定，Demo 是一路打通《宝可梦火红》的四天王和冠军。Demo 是热闹，真正的活儿在新加的 /v1/decisions 端点。 一个普通 LLM 或 VLM 现在可以直接当分类和打分模型用。给它一张图、一段文字或一段实时画面，问该执行 A、B 还是 C，风险等级多少。再问这事要不要继续，下一步往哪走。它不写一大段话再让程序去 JSON 里抠，直接回一个 decision 和每个选项的 probability。 这跟判断与生成分离那套思路是同一条路。模型的位置正在从负责生成往负责判断挪，挪过去之后，接口也跟着变了：要的是答案加概率，不是一篇文章。 更实用的是它顺手加了 /v1/systemone，兼容 TypeSafe SDK。这等于把 Jev 的 Noul、Choice、Score 三类带类型判断接口接到了更多开源模型上。接口一旦通用，判断层的选型就自由了，谁快用谁，谁稳用谁。 我的判断是这样：执行这块模型早够用了，真正缺的是那个便宜、快、稳定、不停接"继续吗""选哪个""对没对"三连问的判断层。往后的 agent 大概会分成一大一小两拨模型，一拨越长越大负责干活，另一拨越缩越小负责在旁边盯着。分工清楚了，钱才花对地方。