LLM API 费用省60%！这个Skill把成本控制做到极致

AI 编程助手烧钱的速度，比你想的快得多。一次对话 1000 tokens，跑 1000 次就是 100 万——而这里面大部分请求根本不需要 Sonnet 或 Opus，用 Haiku 就够了。

问题的根源不在模型贵，而在没有路由。简单任务用贵模型，复杂任务也没区分，全部一股脑推给最强的模型，钱就这么悄悄溜走了。

成本感知 LLM 管道是什么

Cost-Aware LLM Pipeline（来自 ECC 技能库）是一套完整的 LLM API 成本控制方案。它把模型路由、预算追踪、重试策略、Prompt 缓存四项技术组合成一个可复用管道，装进 Claude Code 就能直接用。

GitHub 仓库 affaan-m/ECC 星数 244.5k，这个 cost-aware-llm-pipeline 是其中专注于成本控制的 Skill。

核心机制一：按复杂度自动路由模型

系统内置两个阈值：字符数 10000+ 或条目数 30+ → 路由到 Sonnet（较贵的模型）；低于阈值 → 自动切到 Haiku（便宜 3-4 倍）。

代码逻辑极简：

• 超过阈值 → Claude Sonnet
• 未超阈值 → Claude Haiku

开发者实测：用这个策略处理 1000 条客服记录，总成本下降 60%，且输出质量无感知差异。路由规则完全透明，可以按业务调阈值。

核心机制二：不可变成本追踪

用 Python frozen dataclass 记录每次 API 调用：模型、输入 tokens、输出 tokens、费用。tracker 本身不可变，每次 add 都返回新对象，不会污染状态。

优势：每次决策可审计，回溯任意时间点的费用组成，调试成本问题就像查日志一样简单。

核心机制三：精准重试策略

只重试瞬时错误：网络超时、速率限制、服务器异常。对于认证失败、参数错误等永久性错误，立即失败，不浪费一分钱预算。

重试间隔采用指数退避：2s → 4s → 8s，避免被限流锁死。

核心机制四：Prompt 缓存

系统级 Prompt 通常 1024 tokens 以上，每次请求都重传是浪费。Cache Control 标记让 API 端缓存系统 Prompt，后续请求只传变量部分，节省成本 + 降低延迟。

谁需要这个

• 日均 API 调用超过 1000 次的开发团队
• 有多级模型（Haiku/Sonnet/Opus）但没做路由的产品
• 需要精确控制 AI 预算的独立开发者或初创公司

快速上手

npx skills add https://github.com/affaan-m/ECC --skill cost-aware-llm-pipeline

安装后，在需要成本控制的 LLM 调用逻辑里引用 skill 的路由和追踪模块即可。

GitHub 链接：affaan-m/ECC – cost-aware-llm-pipeline

GitHub: https://github.com/affaan-m/ECC/tree/main/skills/cost-aware-llm-pipeline