Router Skill：50ms内自动选最优模型的AI Agent路由神器

Skill超级捕获手 技术创作者 2026-08-30 10 阅读

一句话总结

Router 是面向 AI Agent 的模型路由代理——把 Claude Code / Codex / Cursor 指向本地一个端点，它就能在 50ms 内自动把每次请求分配给最合适的模型，声称节省 40–70% 推理成本。今日登 GitHub Trending，累计约 2,822 stars（截至 2026-08-30）。

核心功能与设计原则

Router 本质是一个本地代理端点，兼容 Anthropic Messages API、OpenAI Chat Completions 和 Gemini native 三种协议。上游应用（如 Claude Code）不需要改代码，只需把 API endpoint 指向 localhost:8080，Router 自动接管所有模型选择逻辑。

它的路由策略不是手写规则，而是基于 Avengers-Pro 论文的聚类评分器（cluster scorer），对每个 action 独立评分来决定用哪个模型。评分依据是历史调用模式与任务特征的匹配程度，而非简单的规则匹配。

认可度

  • GitHub stars：约 2,822（截至 2026-08-30），今日新增 +284，GitHub Trending 当日榜
  • 语言：Go
  • License：Elastic License v2（源码可读，非 AGPL 那种严格开源）
  • 构建方：Weave 工程智能平台（客户含 Robinhood、PostHog、Reducto 等）
  • 社媒热度：Hacker News 201+ 赞， Clauday 有专题报道，被多个 AI 导航站点收录

链接

GitHub：https://github.com/workweave/router

原作者

workweave（Weave 团队）——工程智能平台，定位是让 AI 开发流程可观测、可优化。Router 是他们面向 Agent 系统的第一个开源路由工具，主打”一行配置切换模型 + 零代码侵入”。

详细介绍

写技术方案时用 GPT-4 太贵，手动切模型又麻烦——这是每个 AI 开发团队都会碰到的痛点。Router 想解决的就是这件事：不需要改业务代码，只改一行 endpoint，Router 自动为每次请求选最优模型。

技术实现上，它用一个小型的嵌入式 embedder 对每个 action 做向量化，然后用聚类评分决定走哪个 provider。支持的模型覆盖主流闭源（Anthropic、OpenAI、Google）和开源（DeepSeek、Qwen、Llama、Mistral 等，通过 OpenRouter 或任意 OpenAI 兼容端点）。所有 provider 密钥在本地加密存储，不走第三方服务。

部署也很轻量：npx @workweave/router 30 秒起一个本地实例，带可选的 Postgres + 可视化面板；内置 OTLP tracing，可接入 Weave、Honeycomb、Datadog。

特点

  • per-action 路由：不是按会话而是按每次 API 请求评分选模型，粒度更细
  • 三协议兼容：Anthropic / OpenAI / Gemini native 一个端点全支持，流式、工具调用、视觉均覆盖
  • 开源模型支持：DeepSeek、Qwen、Llama、Mistral 等通过 OpenRouter 接入
  • 零代码侵入：改 endpoint 即可，Claude Code / Codex / Cursor 无需任何配置改动
  • BYOK 本地加密：密钥不离本地，内置 OTLP 可观测性

使用方法

安装（一行命令）：

npx @workweave/router

按提示选择目标 Agent（Claude Code / Codex / opencode），自动配置本地路由地址为 localhost:8080。

基本调用：

把目标 Agent 的 API endpoint 指向 localhost:8080（原来指向 api.anthropic.com 或 api.openai.com 的地方），Router 自动接管后续所有模型选择。

Docker 完整部署：

docker run -p 8080:8080 
  -e DATABASE_URL=postgres://... 
  workweave/router

使用场景与目标人群

  • 适用场景：多模型并存的 AI 开发团队（同时跑 Claude、GPT、Gemini 或开源模型）、需要精细控制推理成本的 AI 应用、需要为不同任务分配不同模型的企业级 Agent 系统
  • 目标用户：AI 工程师、平台工程师、LLM 应用开发团队

输入与输出案例

案例 1：Claude Code 路由

  • 输入：用户在 Claude Code 里问一个简单的代码补全问题（不需要强大推理）
  • Router 决策：识别这是一个简单补全 action，评分器将请求路由到轻量模型（如 DeepSeek），而非 Claude Sonnet
  • 输出：响应延迟降低，成本降至原来的约 1/3

案例 2：复杂架构分析路由

  • 输入：用户请求：”分析这个微服务仓库的运行时代码架构，画出架构图”
  • Router 决策：识别这是复杂推理任务，路由到 Claude Sonnet / GPT-4o
  • 输出：Agent 收到正确模型支持，产出完整架构图

GitHub：https://github.com/workweave/router

GitHub: https://github.com/workweave/router

评论区

0 条评论

登录后可评论。

Skill超级捕获手 10 阅读