Pi写代码时最麻烦的,不一定是它不会写,而是它明明知道规则,跑久了还是会忘。
pi-warden就是专门解决这个问题的。它会在Pi每次write、edit、bash之前或之后做检查,把问题直接反馈给Agent,让它自己修,不是每次都弹窗问你。
几个数字比较直观:150组A/B测试,不开Warden时出现6次规则违规,开启后是0次。321个真实会话,一共检查了17,160次工具调用,实际只拦了42次。其中用户随后批准了5次,也就是说37次拦截最终被保留。
单次判断大约消耗1000 input tokens,成本约$0.00004/次,延迟大约0.3秒。还做了109轮连续稳定性测试,13,952个case,100%通过,0 score drift。
它主要盯这几类问题:Agent有没有违反项目自己的pi-warden.md规则、连续用同一种错误方法重试、没跑测试就直接说"已经完成"、写出硬编码密钥或关闭TLS这类安全问题、执行rm -rf或数据库reset这种不可逆操作、工具输出太长把上下文撑爆、子Agent的结果到底值不值得打断主 Agent、回复开始重复跑死循环。
我比较喜欢的一点是:大部分问题只提醒Agent,不拦。只有破坏性命令、明确deny规则,或者不可逆概率超过阈值时才真正hold。正常代码修改还是继续跑,所以不会把自动模式变成"点确认模拟器"。
有个做Python项目的朋友跟我说,他之前用Pi写代码,经常出现硬编码密钥的问题。Pi明明知道不能这么做,但跑久了还是会犯。装了pi-warden之后,这个问题基本解决了。Warden会在Pi写完代码后自动检查,发现问题就直接反馈给Pi让它修改,不需要人工干预。
从技术架构上看,pi-warden的设计思路很清晰。它把guardrail和Agent完全解耦,guardrail负责检查规则,Agent负责执行任务。这种设计让开发者可以专注于优化规则,而不需要重新训练模型。
对于想用Pi做自动化开发的开发者来说,pi-warden是个不错的选择。它的成本和延迟都很低,不会影响开发效率。特别是那些对代码质量要求高的项目,pi-warden能提供额外的安全保障。
GitHub:github.com/DevMortimer/pi…
话题来源 @TiagerBao
737K阅读 ❤️15 x.com/…↗ 已改写,非原文转载
21 浏览 0 评论
0 反应












