一篇值得收藏的实践长文,把决策与生成分离做成了四组对照实验,入口在 nowledge-labs.ai/zh/blog/reflex… 。
最漂亮的一组在同一个模型上完成:记忆审核改为问题清单、只给答案后,"过度解读"识别从 0.27 到 1.00,"长期保留价值"从 0.83 到 1.00,费用反而更低。两个反直觉发现更值钱:让模型为答案补一句理由,分数没涨、费用加四成、延迟翻倍——程序只消费结论,生成理由是纯开销;六道题挨个调用要等 50 秒,一次读完材料问完六题只要 11.6 秒,费用降约六成五——判断的组织方式本身就是成本项。
更宏观的一笔账在流程侧:判断类调用占过半次数,费用只占约四分之一,大头在生成。判断前置剪枝、批量合并,开销从 100 降到 37,再换便宜的决策模型降到 26——约 85% 的节省来自流程调整,只有 15% 来自模型差价。
换模型不是主要杠杆,重排先判断还是先生成才是。文中对照的诚实同样值得记:小样本实测每线程只降 10–19%,远低于估算——建议路径是同模型先测拆分、再换模型、最后看真实流量。
三步顺序可直接抄:先不动模型、只把判断拆成独立问题看收益,再固定问题换便宜模型,最后用完整流程对照确认收益落到用户账单上。每一步都有独立对照,才知道省下的钱来自哪里。
26 浏览 0 评论
0 反应










