Agent看起来每一步都在自由发挥,但把几千条执行轨迹摊开后,它的行为可能只剩下…

Agent看起来每一步都在自由发挥,但把几千条执行轨迹摊开后,它的行为可能只剩下几十个状态。 UCL和Holistic AI团队这篇论文做了一件很有意思的实验:把Agent的历史轨迹压缩成一张有限状态机(FSM)。 核心发现: ✅ 状态压缩:在12个公开数据集上,FSM只有7-43个状态,却能以≥0.997的拟合度重放未见过的轨迹 ✅ 快速构建:几毫秒就能构建完成 ✅ 预测能力:在下一步预测上,8/8数据集都超过Agent Workflow Memory;失败预测最高AUROC达到0.94 ✅ 早停机制:在SWE-agent上,系统可以在失败任务平均只执行到32%时触发早停,省掉约68%的计算 更值得关注的发现:换不同LLM,Agent的行为拓扑依然非常相似。底座模型会影响每一步怎么选,但harness可能早已经把「有哪些路可以走」画出了大致边界。 以后分析Agent,不能只盯着模型输出。它反复走哪些路径、在哪里进入循环、失败前会经过哪些状态,本身就是一层很有价值的可观测信号。 arxiv.org/abs/2608.23670
话题来源 @Xudong07452910 · 9K阅读 · ❤️131 · x.com/…↗ · 已改写,非原文转载
21 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单