上下文该分两层:原文与投影

一条观点帖讲透了被做反的事:context 管理该做成 view 层——history append-only,模型只看投影;为省 token 做破坏性截断,等于为缓存覆盖源码,debug 时还原不了现场;可审计的原始记录比省下的那点 context 值钱(Pi 0.87.0 的 ContextEditEntry 是活例:隐藏或替换某条消息,不动原文与用量)。 agent 调试本质是时间旅行问题——出事时要回答"模型当时看到了什么"。原文写死就无解;投影层让你既给模型瘦身,又能拼回现场。代价在账上:分离多一层组织、缓存可能被打断——可预算的成本,换不可逆现场的保险。 口径:场景的函数不是真理——短任务截断就省;长跑、要压缩恢复的 agent,审计层才是刚需。Pi 两者兼得;堆栈里没有它就自己补一层。 给要动手的三条:一,长跑 agent 先立规矩:原文不可变、投影可重建;二,压缩截断一律可逆,每步留"改了什么";三,预算紧先砍投影里的旧轮次,别砍原始记录。 开你的会话日志看一眼——如果它被截断过、还原不回来,先修这一层,再谈省钱。
话题来源 @KakaluoteW45042 4.9K阅读 ❤️21 x.com/…↗ 已改写,非原文转载
137 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单