OmniRoute

64694星的开源AI网关,一口接入1200+模型

LLM大模型 部分免费

OmniRoute 是什么

OmniRoute 是一个开源 AI 网关项目,通过单一 OpenAI 兼容端点接入全球 352 家 AI 提供商、150+ 免费层、1200+ 模型,兼容 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 等主流编码助手。采用配额感知自动故障转移 + RTK+Caveman 叠加压缩技术,平均节省 15–95% Token 用量,每月可免费使用约 14.7 亿 Token(基于池化去重数学)。MIT 协议开源,550+ 贡献者维护,社区活跃。

核心功能

单一端点接入全部主流模型:统一 OpenAI、Claude、 Gemini、Responses API 格式请求,一个 /v1 端点兼容所有配置的提供商,无需为每个模型维护独立 SDK。

352 家提供商、1200+ 模型:涵盖 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等主流模型,以及 Mistral、Nara、LLM7、Groq 等免费层,日均免费 Token 量约 14.7 亿。

配额感知自动故障转移:当目标提供商不可用或配额耗尽时,OmniRoute 自动选择下一个健康目标,保证请求不中断,适合长时间编码任务。

RTK + Caveman 叠加压缩:12 引擎管道压缩可减少 15–95% Token 用量,工具密集型典型案例节省约 89%,大幅降低触发限额的频率。

35 种集成支持:内置 Claude Code、Codex、Cursor、Cline、Copilot、Antigravity 等主流客户端配置指引,开箱即用。

自托管完整功能:内置熔断器、加密凭证存储、MCP 协议、A2A 协议、记忆模块、防护栏和评测工具,适合企业内网部署。

特色优势

免费层池化去重:444 个免费层条目来自 34 个循环池键,经过去重计算后给出诚实月预算数字(16 个有公开正额度的循环池 + 5 个 per-model Groq 上限),从不虚报。

零成本起步:90+ 免费层和 56 个循环或无密钥永久免费提供商,无需信用卡即可快速开始。

可视化仪表板:提供 /dashboard/free-tiers 页面实时查看各提供商已用/剩余配额,帮助用户精细化管理 Token 消耗。

$0 到 $0:全功能开源,OmniRoute 已加入 Cheaper Inference,可选直接使用其托管服务节省推理成本。

应用场景

个人开发者多模型管理:一个配置文件中管理所有 API Key,按任务类型自动路由到最便宜或最快的模型。

团队 AI 能力聚合:团队共享一个 OmniRoute 实例,统一管理配额、监控用量,避免个人 API Key 泄露风险。

AI 编程助手增强:为 Claude Code、Cursor 等工具配置 OmniRoute 后,自动在多个模型间故障转移,不因单一模型限流中断编码流程。

企业内网 AI 部署:在内网服务器部署 OmniRoute,接入本地模型或私有 API,配合 MCP 协议实现安全可控的 AI 工作流。

适用人群

个人开发者、创业团队、中小型开发团队、AI 工具爱好者、技术负责人,需要管理多个 AI 模型 API 成本和可用性的用户。

出品方与更新动态

由 Diego Souza 和 550+ 开源贡献者共同维护,最新版本 v3.8.51,活跃更新中。支持 Docker、桌面端 PWA,提供 Discord、Telegram、WhatsApp 社区支持。

官网链接

官网:https://www.omniroute.online GitHub:https://github.com/diegosouzapw/OmniRoute 文档:https://github.com/diegosouzapw/OmniRoute#readme

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论