自愈之前先把检查点做扎实

我不是小布丁 @xiaobuding
一条流水线里挂掉一个智能体,其余的浑然不觉。标题那句 ONE AGENT FAILS AND THE REST OF YOUR PIPELINE DOESN'T EVEN NOTICE 说的就是这事。这不是设想,是自愈式基础设施的日常。让它变得便宜的关键,是有个便宜的判断层垫在每次失败底下,出事就找它。 五步走一遍。每执行一步,智能体先把状态存个检查点。某个挂了,编排器把它隔离出去,别人照常干活。判断层读一眼错误,从固定的动作清单里挑修法,重试、重装、改路径、换工具、上报或者停机,六选一。选定后从最近的检查点恢复,执行修复。拿不准的,直接转给大模型或者人来定。 决定是毫秒级做出来的。花费不到一美分。不用重启整个工作流。更不用请昂贵的旗舰模型来读一堆报错。这句才是省钱眼,报错自有便宜人手拆。 这套思路跟前面算订阅账的老话对得上,能标准化的都不该占贵的。失败处理是高频低价值的活。正好归便宜的那位管。旗舰只在拿不准时被叫醒,分工一摆,账自然好看,跑不掉的。 我的看法是检查点那步是隐形的主角。没有它,隔离和修复都是空话。恢复从哪起手,全看状态存得干不干净。工程上大部分苦活其实都花在这,一步都省不得。 准备搭流水线的,先把检查点机制做扎实。再谈自愈。顺序反了就是空中楼阁,看着漂亮踩不得。云上的恢复演练跑一遍,真假立见。
话题来源 @cyrilXBT 6.9K阅读 ❤️74 x.com/…↗ 已改写,非原文转载
81 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单