有条发布值得接:Ollama 现在本地就能跑 Jev 类决策模型——官方点名的活儿是工单分诊、模型路由、内容审核这三类,一条 ollama pull nimble 就到位。
附带演示里,Nimble 通过新的本地 systemone 接口实时做决定,把 Ollama racer 这个小游戏玩了起来。
两层一,正好接 62394"判断力上云"那条构成一对:那条把分类、路由、行动选择托管给官方 API(云的账),这条把同一种能力搬进本地运行时(隐私和成本的账)——判断力这种高频、轻量、贴着业务的活儿,天生最适合小模型。
云端标准件和本地拉取只是同一需求的两种交付方式,谁快谁便宜谁留下。
二,"工单分诊、模型路由、内容审核"这三件套选得准:都是判断题不是生成题,答对一个选项就够,正好是决策模型的甜点区——这跟 62389 分工树里 Jev 半秒分叉的定位完全一致,当时还是编排层的自建件,现在有了开箱即取的现成品。
口径:①功能、接口与用途其原帖表述(Nimble 尚未拉取实测、演示效果未复现);②链未解析;③"两种交付/甜点区"是我的引申;④Jev 类判断其官方定义为准。
要用的两条:一,做过云端判断接口的——同样的问题清单可以原样搬到本地,敏感数据那部分从此不出机房;二,本机跑模型的——先拿工单分诊这类单选题开刀,别一上来就让小模型干生成的活。
判断力的账有两页:上云那页刚翻过,本地这页也装订好了——你下一个判断题,打算在哪一页结算?
话题来源 @ollama
630.5K阅读 ❤️4298 x.com/…↗ 已改写,非原文转载
21 浏览 0 评论
0 反应












