OmniRoute Skill:把 290+ AI 模型装进一个端点的免费网关神器

OmniRoute 是一个开源免费 AI 网关,聚合全球 290+ AI 服务商(90+ 有免费层),通过单一 OpenAI 兼容端点连接 Claude Code、Codex、Cursor、Cline、Copilot 等主流 Coding Agent,支持配额感知自动切换和 RTK+Caveman 双重压缩节省 15–95% Token,上周新增 7,701 ★,Trending 全球上榜,是目前开发者生态中话题性最强、增长最快的 AI 网关类 Skill 之一。

功能与原则

OmniRoute 解决的核心问题:开发者同时用多个 Coding Agent,每个 Agent 背后要接不同的模型供应商,各有 SDK、各有配额、各有费率限制,手动管理成本极高。

核心能力:
单一 OpenAI 兼容端点localhost:20128/v1),兼容所有主流 Coding Agent
290+ AI 服务商聚合,包括 Kimi、Claude、GPT、OpenAI、Gemini、GLM、DeepSeek、MiniMax 等 516 个模型
90+ 永久免费层,月均可用约 15.3 亿免费 Token
配额感知自动切换(quota-aware auto-fallback),一个模型 quota 用尽毫秒级切换下一个,零停机
RTK + Caveman 双重压缩工具密集型会话平均节省 89% Token
MCP / A2A 支持,104 个 MCP 工具开箱即用

设计原则:零配置开箱即用——安装后 auto 模型即可响应,无需任何 API Key。

认可度

  • GitHub Star:36,763(截至 2026-08-01)
  • 本周新增:7,701 ★(GitHub Trending 周榜前列)
  • Fork:4,737
  • 贡献者:500+
  • License:MIT
  • Trendshift 排名:全球 AI/ML 仓库前列
  • npm 周下载:活跃增长中

链接

GitHub:https://github.com/diegosouzapw/OmniRoute

原作者

  • GitHub@diegosouzapw(Diego Souza)
  • 主页:https://omniroute.online
  • 维护者活跃于 LinkedIn / Discord / Telegram,版本迭代频率高

介绍

OmniRoute 起源于一个简单观察:单独跑 Claude Code、Cursor、Cline 的开发者,每月要为多个模型供应商分别充值,free tier 散落在各处,没有统一界面。OmniRoute 将这些免费层聚合到一个端点,让 Coding Agent 可以自动在多个免费模型之间无缝切换,同时保持极低的 Token 消耗。

与一般 API 聚合工具不同,OmniRoute 内置了两套压缩算法(RTK 和 Caveman),对工具调用密集型会话可节省 15–95% Token。此外,它还支持 MCP(Model Context Protocol)和 A2A(Agent-to-Agent)协议,意味着它不只是模型路由,还是一个多 Agent 通信的枢纽。

项目完全开源(MIT),500+ 贡献者参与维护,支持 Docker、本地 npm、桌面客户端等多端部署,官方还提供 Discord / Telegram / WhatsApp 社区。

特点

  • 零配置启动:安装后无需任何 Key,auto 模型立即可用(内置 OpenCode Free / Felo 等无 Key 提供商)
  • 全局自动切换:当首选模型 quota 耗尽,自动在 290+ 提供商间切换,毫秒级生效,任务不中断
  • Token 节省显著:RTK + Caveman 双重压缩,工具调用密集场景平均节省 89% Token,大幅降低 API 成本
  • 全模型覆盖:Kimi、Claude、GPT-4o、Gemini、DeepSeek、MiniMax 等 516 个模型统一接入,一端搞定
  • MCP / A2A 原生支持:不只是网关,还是多 Agent 协作的消息中枢
  • 实时免费额度面板:内置 Dashboard(/dashboard/free-tiers)显示当月各模型免费 Token 余量,透明可信

使用方法

安装(npm 全局):

npm install -g omniroute

安装后服务自动在 localhost:20128 启动。

零配置测试:

curl http://localhost:20128/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'

无需任何 API Key,auto 模型自动选择可用提供商立即响应。

配置 Claude Code 使用 OmniRoute:

在 Claude Code 配置中添加:

# 设置 OmniRoute 为默认端点
export OPENAI_BASE_URL=http://localhost:20128/v1
export OPENAI_API_KEY=any-value  # OmniRoute 不需要真实 Key

指定模型(如 Kimi):

curl http://localhost:20128/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{"model":"kimi/ moonshot-v1-8k","messages":[{"role":"user","content":"Hello!"}]}'

Docker 部署(适合服务器):

docker run -d -p 20128:20128 diegosouzapw/omniroute

使用场景与人群

  • 多 Agent 开发者:同时使用 Claude Code、Cursor、Cline 等多个 Coding Agent,不想分别管理各自的 API 密钥和配额
  • 免费优先团队:预算有限,依赖大量免费层,希望最大化利用各平台免费额度
  • Token 成本敏感项目:工具调用密集型 Agent 工作流(代码搜索、重构、自动化测试),通过双重压缩降低 API 费用
  • AI 网关搭建者:在企业内部自建模型网关,统一管理多个模型供应商
  • 跨模型调试:同一端点切换测试不同模型输出,便于对比和选型

输入与输出案例

案例 1:零配置响应

// 输入
{
  "model": "auto",
  "messages": [{"role": "user", "content": "用 Python 写一个快速排序"}]
}
// OmniRoute 自动选择免费提供商返回结果
// 模型显示:omni/auto-selected (quota-aware)

案例 2:Token 压缩效果

在 50 次连续工具调用(grep + read + write)的会话中:

  • 不压缩 Token 消耗:约 120K
  • OmniRoute RTK+Caveman 压缩后:约 13K Token
  • 节省率:约 89%,费用大幅下降

GitHub:https://github.com/diegosouzapw/OmniRoute


GitHub: https://github.com/diegosouzapw/OmniRoute

评论区

0 条评论

登录后可评论。

Skill超级捕获手 1048 阅读