每次打开Claude Code,你有没有想过:改一个变量名为什么要和做架构评审付一样的价格?

每次打开 Claude Code,你有没有想过:改一个变量名为什么要和做架构评审付一样的价格?

这不是一个模型的问题,是一个路由的问题。

Workweave(工程智能平台,标榜自己是 #1 engineering intelligence platform,宣称的客户包括 Robinhood、PostHog、Reducto 等)刚刚把 Router 开源了出来——一个跑在你本地的模型路由代理。它用一个小型的内置 ONNX 分类器给每个 API 请求打分,50 毫秒内决定这个请求该发给哪个模型,然后把它发过去。

成本削减数字很亮眼:40-70%,官方说法是 80-85%(在他们的生产流量上测量)。但数字要仔细看——他们的依据是分析了生产环境的 Claude Code 流量,发现 60-70% 的请求其实是短、结构简单的补全任务,开源模型就能以约 1/40 的成本做到等价效果。

它到底是什么

Workweave Router 是一个 Go 写的独立服务,跑在你本地 8080 端口,夹在你和所有模型提供商之间。它做三件事:

  • 接收你客户端的请求(Anthropic Messages、OpenAI Chat Completions 或 Gemini 格式都支持)
  • 用内置 ONNX embedder 把请求嵌入,用聚类评分器(基于 Avengers-Pro 论文)判断这个请求属于哪种任务类型
  • 路由到”在该类型任务上历史表现与前沿模型持平、成本/延迟/输出长度综合最优”的候选模型

关键细节:它路由的是 per-action,不是 per-turn。一个对话里,文件读取、计划生成、代码编辑、测试运行、结果总结各有各的难度。Claude Code 的一次交互可以触发十几个独立 API 请求,路由粒度细化到这个级别,才是省钱的真正来源。

路由本身增加的延迟是”低个位数毫秒”,官方说法——对大多数场景可以忽略。

架构:你的 key 留在你机器上

README 里有一句很说明问题的注释:”Only the grey boxes are off your machine.”(灰色的才是你机器之外的东西)

灰色 = Anthropic、OpenAI、Gemini、OpenRouter 等上游提供商。路由器、分类器、PostgreSQL 存储、你的 API key——全部在你本地。

API key 静态加密存储在你的 Postgres 里,从不经过 Workweave 的服务器。可观测性方面,OTLP traces 直接发到你的 Honeycomb/Datadog/Grafana,也不需要经过 Weave。

这个设计选择不是安全洁癖,是合规刚需。企业用户不会接受”我的 prompt 经过第三方服务器”的架构,无论对方怎么承诺不存储。

和 OpenRouter Auto 的区别:两条路线

维度 OpenRouter Auto Workweave Router
路由信号 社区消费数据(55T token/周) 请求本身的语义嵌入
路由粒度 per-prompt per-action
更新频率 7天滚动 实时
部署方式 托管 本地或托管
数据流向 经过 OpenRouter 直连 provider

OpenRouter 是”市场智慧”路线——大家怎么选我就怎么选。Workweave 是”技术分析”路线——这个请求长得像哪类任务,就用哪类模型。

新任务类型不需要等 7 天社区数据积累,第一次出现就能被正确路由。但 OpenRouter 的优势是数据量大,能捕捉到”大家没想到但效果好”的搭配。两条路线各有道理,取决于你的场景。

谁该用

适合:

  • 已经在用 Claude Code、Codex CLI、opencode 或 Cursor,日均 API 调用量可观(每天几十美元以上)
  • 对数据主权有要求,不希望 prompt 经过第三方服务器
  • 有跨提供商使用(Anthropic + OpenAI + 开源模型),想统一管理

不适合:

  • 低频使用,每天 API 花费低于几美元——运维成本不划算
  • 需要 OSI 认可的开源许可证——ELv2 是 source-available 但不是开放源代码
  • 想把这个包装成 SaaS 卖给别人——ELv2 明确禁止将本软件作为托管服务提供给第三方

Cursor 集成是 early beta

官方的 Cursor 集成明确标注为”early beta”,性能可能有波动。Claude Code、Codex CLI 和 opencode 的集成更成熟。

一个命令就能试

npx @workweave/router

安装脚本会检测你装了哪些工具(Claude Code、Codex 或 opencode),自动写入对应的配置。30 秒,不需要 clone,不需要 Docker,不需要 Postgres(自托管才需要)。

自托管完整栈需要 Node >= 18、jq 和 PostgreSQL。配置文件 .env.local 写入你的 OpenRouter 或其他 provider key,然后 make full-setup 启动整个系统。

真实建议

花半天时间跑一个 shadow test:用 POST /v1/route 这个端点,把你过去一周的请求 replay 进去,看看路由器会怎么决策,再决定要不要切过去。不要只看官方数字,你的 workload 形状决定了一切。

下一步:


GitHub:https://github.com/workweave/router
当前星数:3,387 ⭐(持续增长中)
最新版本:router-v0.2.11
License:Elastic License v2(自用免费,不得作为托管服务再分发)

评论区

0 条评论

登录后可评论。

器匠·开发者工具 737 阅读