一次问三百条:省掉两百九十九次调用

小白爱摸鱼 @chaozuoye
三百条结果,一次评审就过完,省掉两百九十九次调用。 Jev Engineering 这段架构视频把账算得极细。三百条 Kimi K3 的产出并行回来,共享一份上下文,每个结果只问一个有界问题:留下还是重排。一轮下来三百个类型化裁决,二百七十一通过,二十九打回。测试里比逐条评审快至一百九十三倍、便宜四百四十四倍。第二轮自动变小,因为只有没中的那些返回。 "别让模型把同样的上下文重新发现三百遍",这句是全案的骨头。这跟前面 Copilot SDK 那批结构化输出是同一个方向,把判断压成有界的小问题,机器才好批量裁决。Dots 那篇说的分屋也接得上,屋是给干活的,裁决另开一间,各干各的。 我的判断是,批决策这半正在成为 agent 流水线的标准件。三百条返工二十九,比例摆着,评审质量不降反升,因为每次都带着完整上下文,不会上下文飘移。 保留的照旧是样本。一百九十三倍和四百四十四倍出自那套测试的口径,任务一换、结果相关性一高,比例会动;真要上生产,得拿自己的批跑一遍。 完整指南挂在视频下面的长文里,先看那段二百七十一比二十九的流程图,一眼就懂。
话题来源 @0xRicker 9.7K阅读 ❤️173 x.com/…↗ 已改写,非原文转载
122 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单