每次打开Claude Code,你有没有想过:改一个变量名为什么要和做架构评审付一样的价格?
每次打开 Claude Code,你有没有想过:改一个变量名为什么要和做架构评审付一样的价格?
这不是一个模型的问题,是一个路由的问题。
Workweave(工程智能平台,标榜自己是 #1 engineering intelligence platform,宣称的客户包括 Robinhood、PostHog、Reducto 等)刚刚把 Router 开源了出来——一个跑在你本地的模型路由代理。它用一个小型的内置 ONNX 分类器给每个 API 请求打分,50 毫秒内决定这个请求该发给哪个模型,然后把它发过去。
成本削减数字很亮眼:40-70%,官方说法是 80-85%(在他们的生产流量上测量)。但数字要仔细看——他们的依据是分析了生产环境的 Claude Code 流量,发现 60-70% 的请求其实是短、结构简单的补全任务,开源模型就能以约 1/40 的成本做到等价效果。
它到底是什么
Workweave Router 是一个 Go 写的独立服务,跑在你本地 8080 端口,夹在你和所有模型提供商之间。它做三件事:
- 接收你客户端的请求(Anthropic Messages、OpenAI Chat Completions 或 Gemini 格式都支持)
- 用内置 ONNX embedder 把请求嵌入,用聚类评分器(基于 Avengers-Pro 论文)判断这个请求属于哪种任务类型
- 路由到”在该类型任务上历史表现与前沿模型持平、成本/延迟/输出长度综合最优”的候选模型
关键细节:它路由的是 per-action,不是 per-turn。一个对话里,文件读取、计划生成、代码编辑、测试运行、结果总结各有各的难度。Claude Code 的一次交互可以触发十几个独立 API 请求,路由粒度细化到这个级别,才是省钱的真正来源。
路由本身增加的延迟是”低个位数毫秒”,官方说法——对大多数场景可以忽略。
架构:你的 key 留在你机器上
README 里有一句很说明问题的注释:”Only the grey boxes are off your machine.”(灰色的才是你机器之外的东西)
灰色 = Anthropic、OpenAI、Gemini、OpenRouter 等上游提供商。路由器、分类器、PostgreSQL 存储、你的 API key——全部在你本地。
API key 静态加密存储在你的 Postgres 里,从不经过 Workweave 的服务器。可观测性方面,OTLP traces 直接发到你的 Honeycomb/Datadog/Grafana,也不需要经过 Weave。
这个设计选择不是安全洁癖,是合规刚需。企业用户不会接受”我的 prompt 经过第三方服务器”的架构,无论对方怎么承诺不存储。
和 OpenRouter Auto 的区别:两条路线
| 维度 | OpenRouter Auto | Workweave Router |
|---|---|---|
| 路由信号 | 社区消费数据(55T token/周) | 请求本身的语义嵌入 |
| 路由粒度 | per-prompt | per-action |
| 更新频率 | 7天滚动 | 实时 |
| 部署方式 | 托管 | 本地或托管 |
| 数据流向 | 经过 OpenRouter | 直连 provider |
OpenRouter 是”市场智慧”路线——大家怎么选我就怎么选。Workweave 是”技术分析”路线——这个请求长得像哪类任务,就用哪类模型。
新任务类型不需要等 7 天社区数据积累,第一次出现就能被正确路由。但 OpenRouter 的优势是数据量大,能捕捉到”大家没想到但效果好”的搭配。两条路线各有道理,取决于你的场景。
谁该用
适合:
- 已经在用 Claude Code、Codex CLI、opencode 或 Cursor,日均 API 调用量可观(每天几十美元以上)
- 对数据主权有要求,不希望 prompt 经过第三方服务器
- 有跨提供商使用(Anthropic + OpenAI + 开源模型),想统一管理
不适合:
- 低频使用,每天 API 花费低于几美元——运维成本不划算
- 需要 OSI 认可的开源许可证——ELv2 是 source-available 但不是开放源代码
- 想把这个包装成 SaaS 卖给别人——ELv2 明确禁止将本软件作为托管服务提供给第三方
Cursor 集成是 early beta
官方的 Cursor 集成明确标注为”early beta”,性能可能有波动。Claude Code、Codex CLI 和 opencode 的集成更成熟。
一个命令就能试
npx @workweave/router
安装脚本会检测你装了哪些工具(Claude Code、Codex 或 opencode),自动写入对应的配置。30 秒,不需要 clone,不需要 Docker,不需要 Postgres(自托管才需要)。
自托管完整栈需要 Node >= 18、jq 和 PostgreSQL。配置文件 .env.local 写入你的 OpenRouter 或其他 provider key,然后 make full-setup 启动整个系统。
真实建议
花半天时间跑一个 shadow test:用 POST /v1/route 这个端点,把你过去一周的请求 replay 进去,看看路由器会怎么决策,再决定要不要切过去。不要只看官方数字,你的 workload 形状决定了一切。
下一步:
- 试托管版(
npx @workweave/router,无需账号) - 看官方文档:https://github.com/workweave/router
- 看 Weave 官方博客介绍:https://weaveos.com/blog/introducing-weave-router-right-sizing-inference-for-production-agentic-workloads
- 有监管要求?
make full-setup跑自托管,用 Docker Compose 部署
GitHub:https://github.com/workweave/router
当前星数:3,387 ⭐(持续增长中)
最新版本:router-v0.2.11
License:Elastic License v2(自用免费,不得作为托管服务再分发)
评论区
登录后可评论。