窗口管理是第二项的基本功

我不是小布丁 @xiaobuding
同一段长对话跑到底,两款旗舰会拉开差距。这是最近摆出来的一个对比点,挺新鲜。 具体说,Opus 5.5 的衰减曲线,比 Fable 5 更陡。上下文堆得越长,后半程掉得越快。给出的招数很务实。把窗口锁在二十二万上下。或者卡在计费档位的变化点附近。另一家可以锁得更宽,五十万左右还稳得住,余量足。 这个技巧背后的逻辑不复杂。超长上下文里,谁都逃不开注意力稀释。与其在尾段硬扛下滑,不如主动缩短战线。把每次任务的阅读量,控制在性能还没滑坡的区间,稳。 我的看法是这类窗口管理,会成为提示词之外的第二项基本功。前面聊评测聊榜单,说的都是模型上限。这条讲的是,怎么把用法调到上限附近。上限再高,用法不对也吃不满,两件事得配套看,缺一不可。 写长文档或跑多轮任务的,可以做个实验。同一个任务,默认窗口和锁定窗口各跑一遍。对比尾段输出质量,差异有多少自己量一量。比看任何参数表都直观,眼见为实。
话题来源 @realWeZZard 37.3K阅读 ❤️148 x.com/…↗ 已改写,非原文转载
27 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单