同一个 bug,两段 Prompt 差了 18 倍成本——这件事把 AI 编程的账彻底算清楚了

同一个 bug,两段 Prompt 差了 18 倍成本——这件事把 AI 编程的账彻底算清楚了

你有没有过这种经历:给 AI 编程工具发了同样的 bug 描述,只是措辞稍微不同,结果一个方案 5 分钟搞定,另一个方案折腾了半小时还没收尾。

这不是玄学。

一篇刚发在 arXiv 上的 preregistered benchmark 给出了硬数据:在任务、模型、验收标准完全一致的前提下,仅改 prompt 措辞,就能让同一个 coding agent 的推理 token 暴涨 2.4–7.4 倍,甚至把总成本拉到 18 倍——而成功率纹丝不动。

这件事真正该被看见的,不是“prompt 很重要”,而是:对于 coding agent,prompt 的本质不是文字优化,是工作设计。


一、同一段代码,两套成本

PointFive 团队的研究跑了一个很干净的对照实验:

  • 24 个确定性编码任务
  • 6 个 reasoning 模型 + Claude Sonnet 5 复现
  • 2 个真实 harness:Claude Code 和 PI.DEV
  • 4,644 次有效运行

结果很清楚:

“多方案对比”是最贵的措辞。

让 agent “develop and compare several approaches” 这种说法,会让模型在内部生成 3 条 elaborated-but-discarded 的分支,最后只实现 1 条。推理 token 直接涨了 2.4–7.4 倍,但成功率没变化。

“确保万无一失”是另一种昂贵。

要求“maximum certainty” 会让 agent 进入 redundant verification loop:重复跑测试、重复读文件、反复确认。最高成本的跑法比 clean run 贵 18 倍,工具调用多 2.5 倍,耗时多 3 倍,成功率依旧原地踏步。

更关键的是,这两种浪费的“成本载体”不一样:

  • 多方案浪费 → token-borne,主要在模型推理里烧钱
  • 确定性浪费 → tool-borne,主要在工具调用和延迟里烧钱

这意味着:换 harness、换模型、甚至换云厂商,都可能改变这笔账的比重,但只要你 prompt 里写了“多方案对比”,它就会在某个地方把钱烧掉。


二、Harness 差距比模型差距还大

另一个让很多人意外的发现:harness 设计对成本的影响,和模型大小的影响是一个量级的。

HuggingFace CEO 转发的一项 10-harness 对比研究显示:

  • 同一模型 GLM-5.2,pass@1 从 23% 到 52%,完全取决于 harness
  • Codex 在 GLM-5.2 上排第 2,换到 Gemma-4 直接掉到第 9
  • 模型无关的 harness(crush、opencode、pi)在小模型上反而爬升

Claude Code 和 PI.DEV 的对比也印证了这一点:同样的模型+任务+prompt,Claude Code 的静态前缀大 12–15 倍,每成功一次成本高出 5–30 倍。

这不是说 Claude Code 不好,而是说:harness 是一个独立变量,会和 prompt 相乘影响最终账单。

你花大力气调 prompt,如果 harness 的静态前缀已经占了 90% 上下文,省下来的钱其实很有限。


三、工程上该怎么把这笔账算清楚

基于这些研究,有三件事你现在就可以做:

1. 把 prompt 当 work design,不当文字压缩

研究里最有效的模板叫“bounded-efficiency wording”:明确范围、明确验收标准、明确停止条件。它不追求最短,但能把 agent 导向“最小足够改动 + 运行相关测试 + 停止”。

对比一下:

  • ❌ “develop several approaches and compare trade-offs”
  • ✅ “inspect only what the evidence requires, make the smallest sufficient change, run the relevant tests, and stop”

前者让 agent 进入锦标赛模式,后者让 agent 进入 bounded execution。

2. 给 harness 做“成本隔离”

把 harness 当基础设施来管:

  • 静态前缀(system prompt、tool schemas)单独审计,和业务 prompt 解耦
  • 工具权限按最小特权配置,read-only agent 不要给 write 权限
  • 高成本工具调用(网络请求、重型测试)加显式审批,不要默认放行

Anthropic 的 Claude Code 安全文档里已经把这几层说得很清楚:permission engine、tool registry、execution engine、security auditor,四层防御缺一不可。

3. 把“成本”变成可观测指标

很多团队只监控成功率,不监控 cost-per-success。研究里明确说:

Agent evaluations should measure success and end-to-end cost while controlling the system variables.

具体做法:

  • 记录每次运行的 billed tokens、tool calls、wall-clock
  • 按 harness/model/prompt 分组对比
  • 把“cost per successful task”当成核心指标,和 latency、error rate 一起进 dashboard

四、结论

Prompt engineering for coding agents 的核心矛盾是:同样的任务目标,不同的 prompt 会诱导 agent 做完全不同 kind 和 amount 的工作。

这不是“写得好不好”的问题,是“让 agent 做什么工作”的问题。

一段 prompt 里的几个词——“compare several approaches”“ensure maximum certainty”——就会把 agent 拉进分支锦标赛或验证死循环,账单翻几十倍,结果不变。

所以,下次你写 coding agent prompt 的时候,不要只问“这句话通顺吗”。要问:这句话会让 agent 多做哪些工作?这些工作有回报吗?

如果你把 prompt 当工作设计来写,把 harness 当基础设施来管,把 cost-per-success 当核心指标来追,那 AI 编程的成本账才算真正被算清楚了。


参考

  • arXiv 2608.01347: Prompt-Induced Waste in Coding Agents
  • The Agent Times: Harness Design Outweighs Model Size on Benchmarks
  • Anthropic: Claude Code Security Documentation
  • PointFive: Preregistered benchmark, 4,644 runs, 24 tasks

评论区

0 条评论

登录后可评论。

Prompt 工程 16 阅读