18k Star 的 FreeLLMAPI:把 28 家免费 API 捏成一个端点,Claude Code 和 Codex 们终于能共用额度了
你有没有过这种经历——想用 Claude Code 跑一个中型项目,结果免费额度两天就用完了。换到 Codex,又被限速。再注册一个账号,流程折腾半天。
FreeLLMAPI 试图回答一个很具体的问题:能不能把 28 家平台的免费额度,捏成一个统一 API,让所有编程 Agent 共用?
这个项目目前在 GitHub 上有 18,075 颗星、2,640 个 Fork,最近一次更新是 2026 年 8 月 7 日的 v0.6.9。TypeScript 写的,MIT 协议。
它到底在做什么
FreeLLMAPI 是一个本地运行的 OpenAI 兼容代理网关。你在各个平台注册免费账号,把 API Key 填进它的管理界面,它会自动做三件事:
第一,合并成一个端点。 无论你用的是 Claude Code、Codex CLI、Cline、Continue 还是其他 14 种编程 Agent,只需要把 base URL 指向 http://localhost:3001/v1,API Key 填它给你的统一 Key,就能调用背后所有平台的模型。
第二,智能路由和自动切换。 它会维护一个”Fallback Chain”——你给支持的模型排个顺序,当前一个被限速(429)或报错(5xx)时,自动切到下一个,全程不需要你介入。Chain 的顺序可以从管理界面拖拽调整。
第三,跟踪配额,不让你踩线。 每个平台每个模型每日的 RPM/RPD/TPM/TPD 都有计数器,路由会主动避开接近配额的 Key。
根据项目 README 的说法,28 家免费平台的额度加起来,大约是每月 40 亿 Token。这个数字听起来夸张,但考虑到大多数平台的免费层都只有几百万到几千万 Token/月,乘以 28 家,确实能凑出这个量级。
支持的免费平台包括 Google(Gemini 系列)、Groq、Cerebras、OpenCode Zen、Mistral、OpenRouter、Cloudflare Workers AI、Cohere、HuggingFace、Zhipu(智谱)、NVIDIA NIM、ModelScope(Qwen3、DeepSeek V4、GLM-5),以及另外 17 家。完整清单在 freellmapi.co/models。
适合谁,不适合谁
适合你如果:
- 同时用多个编程 Agent(Claude Code、Codex、Gemini CLI 等),不想每个都单独注册账号
- 在探索不同的模型能力,想在一个界面里比较各家效果
- 个人项目或学习场景,免费额度够用,不想为 API 付费
- 已经在用需要 OpenAI 兼容端点的工具或插件
不适合你如果:
- 需要稳定的生产级服务——免费平台的限速和可用性本身就不保证
- 跑的是正经商业项目——用别人的免费额度做商业用途存在合规风险,项目 README 里明确写了 “Personal experimentation only”
- 对延迟敏感——多一次本地代理转发,加上路由切换,延迟会比直连高
几个值得注意的细节
模型目录自动更新。 路由会每 12 小时从 freellmapi.co 拉取签名的模型目录,包括新增模型、配额变化、兼容性修复,不需要你手动 git pull。但这个功能需要付费年费 $19 才能保持”实时”更新(免费用户目录更新较慢)。
Fusion 模式有意思。 你可以请求一个叫 fusion 的虚拟模型,路由会把你的 Prompt 同时发给多个不同的免费模型,然后用一个评判模型把多个回复合并成一个。有种”模型 ensemble”的意思,但依赖免费层的响应速度,实际体验因 Chain 配置而异。
Key 加密存储。 你的各平台 API Key 以 AES-256-GCM 加密保存在本地 SQLite 数据库里,解密只在请求时内存中进行。应用对外只暴露一个统一的 freellmapi-… Bearer Token。这个设计至少比你把 Key 写在 .env 里强。
桌面端也有。 macOS 有 DMG 安装包,Windows 有 .exe Installer,不需要 Docker,直接从 Releases 页面下载。启动后在菜单栏运行,有一个玻璃弹出层显示实时请求统计。
快速上手
一条命令启动(需要 Docker):
curl -fsSL https://freellmapi.co/install.sh | bash
启动后打开 http://localhost:3001,在 Keys 页面填入各平台 API Key,在 Fallback Chain 页面拖拽排序,然后在 Keys 页顶部复制统一 API Key。
给 Claude Code 配置(自动生成配置脚本):
npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>
这条命令会自动备份现有的 ~/.claude.json,然后写入新配置,不会直接覆盖。也有 freellmapi launch 模式——Key 只注入到子进程,不落盘,更安全。
和同类方案比怎么样
项目 README 附了一张对比表,对象是 OpenRouter、LiteLLM 和 Portkey。简单说:
- OpenRouter 是商业服务,要钱;FreeLLMAPI 是本地开源方案,免费
- LiteLLM 是更重的框架,适合企业场景;FreeLLMAPI 专注于”聚合免费额度”这个单一场景
- Portkey 偏观测和治理;FreeLLMAPI 偏路由和额度管理
如果你只有一个具体场景——把多个平台的免费 API 合并成一个端点给编程 Agent 用,FreeLLMAPI 是目前这个方向上最专注的选项。
下一步建议
- 如果你用 Docker,先跑一条
curl -fsSL https://freellmapi.co/install.sh | bash试试,本地起一个不会损失什么 - 看一下 docs/clients.md,里面有你用的那个 Agent 的具体配置步骤
- 如果你在团队里有多个人跑不同的编程 Agent,可以考虑把 FreeLLMAPI 部署在局域网的一台机器上,大家共用一个端点——但注意 Key 是加密存在那台机器上的,信任边界要想清楚
- 关注一下 Fusion 模式,实际测试多模型并行 + 合并的效果是否真的比单模型好,这个场景目前社区反馈还不多
项目地址:https://github.com/tashfeenahmed/freellmapi
官网(模型目录):https://freellmapi.co/models
评论区
登录后可评论。