FreeLLMAPI Skill：34个免费LLM聚合网关月均74亿Token

Skill超级捕获手 技术创作者 2026-09-01 10 阅读

把 34 个免费 LLM 拼接成一个 API：FreeLLMAPI 凭什么月均 74 亿 Token 还能霸榜 GitHub Trending

功能与原则

FreeLLMAPI 是一个开源的免费 LLM 聚合网关，核心功能是：将 Google、Groq、Mistral、OpenRouter、Cohere 等 34 家 provider 的免费额度，拼接成一条 OpenAI 兼容的统一接口。开发者无需逐一对接每个 SDK，一个 /v1 端点即可触达 635 个免费模型端点。设计原则：零碎免费资源系统化，让个人开发者和 AI 爱好者也能用上大体量推理资源。

认可度

截至 2026 年 8 月底，GitHub Star 数约 21,600+（来源：GitHub trending 数据），单日新增最高 +748 星，2026 年 9 月 1 日持续稳居 GitHub Trending 榜单前列。GitHub Trending Recap（Sep 1, 2026）重点报道。无需付费即可调用，是目前聚合免费 LLM 额度体量最大的开源项目之一。

链接

GitHub：https://github.com/tashfeenahmed/freellmapi

原作者

GitHub 用户 @tashfeenahmed，项目采用 MIT 许可证，主语言 Go。

介绍

每个主流 AI 实验室如今都提供免费额度——每月数百万 Token、数千次请求。单独用一家是玩具，但叠加 34 家是什么概念？FreeLLMAPI 的答案是：每月约 74 亿 Token 推理容量。

痛点在于：34 家 provider = 34 套 SDK、34 套 Rate Limit、34 个可能失败的请求点。FreeLLMAPI 将这一切压缩为一条 OpenAI 兼容端点，任何 OpenAI SDK 客户端直连，无需重构代码。它同时内置智能路由：根据速度和可靠性评分自动挑选当前最优 provider；某个 provider 触发限流时自动切换到备选；追踪每个 key 的用量，防止超出免费配额。Key 以 AES 加密存储在 SQLite 中，安全性有保障。

此外，项目支持 Claude Code、Codex CLI、Gemini CLI、Aider、Cline、Roo Code、Continue、OpenCode、Goose、Qwen Code、Kilo Code、Cursor 等主流编程 Agent，一条命令完成接入配置：npx freellmapi setup-claude。

特点

  • 34 家 Provider 聚合：Google、Groq、Cerebras、Mistral、OpenRouter、Cloudflare、Cohere、Zhipu、NVIDIA、HuggingFace、ModelScope（含 Qwen3、DeepSeek V4、GLM-5）等
  • 635 个免费模型端点：474 个模型家族，含 584 个聊天模型、41 个 Embedding 模型、7 个语音转录、3 个视频生成
  • 月均 74 亿 Token：叠加各 provider 免费额度，总量惊人
  • 智能路由 + 自动故障切换：按速度/可靠性评分选最优 provider，限流自动 failover，无需人工干预
  • OpenAI 兼容：现有代码零改动迁移，所有 OpenAI SDK / Anthropic SDK / Gemini SDK / Ollama 均可用
  • Claude Code 一键接入：npx freellmapi setup-claude，零配置对接 Claude Code
  • 加密存储：Key 以 AES 加密存入 SQLite，本地安全存储，不上传外部
  • 自更新模型目录：路由器从 freellmapi.co 的签名源拉取模型目录，新增免费模型和配额变更无需 git pull

使用方法

快速安装（Docker）

docker pull ghcr.io/tashfeenahmed/freellmapi:sha-b235b7e
docker run -p 7999:7999 -v ~/.freellmapi:/data ghcr.io/tashfeenahmed/freellmapi:sha-b235b7e

Claude Code 一键接入

npx freellmapi setup-claude

手动配置 Key

在 Keys 页面填入各 provider 的 API Key，支持逐家添加或批量导入。Key 以 AES 加密本地存储。

调用示例（OpenAI SDK）

from openai import OpenAI

client = OpenAI(
    api_key="any-key",  # 填入本地设置的 passphrase
    base_url="http://localhost:7999/v1"
)

response = client.chat.completions.create(
    model="gpt-4o-mini",   # 或任意 635 个端点中的模型
    messages=[{"role": "user", "content": "用三句话解释量子计算"}]
)
print(response.choices[0].message.content)

使用场景与人群

适用场景

  • 个人开发者 / 独立项目：不想为每次测试付 API 费，但需要大体量推理能力
  • AI 爱好者：想体验 Claude Code / Codex 等 Agent 接入多个免费 LLM 的灵活性
  • 跨模型对比评测：一条请求可切换任意 provider 的任意模型，零成本做模型横评
  • 脚本与自动化：批量调用、轻量数据处理，不值得为小任务开付费账号

目标用户：熟悉 API 调用、有探索意愿的开发者；用 Claude Code / Cursor 等 AI 编程助手的工程师。

输入与输出案例

案例一：Claude Code 接入免费 Groq 模型

输入：npx freellmapi setup-claude（Claude Code 内执行）
输出：✅ 配置完成。现在可以在 Claude Code 中使用 /model groq/llama-3.3-70b 等免费模型

案例二：Python 脚本跨模型评测

输入：Python SDK 指定 model="mistral/mistral-small"，发送"比较 GPT-4o-mini 和 Gemini-2.0-flash 的响应延迟"

输出：Mistral 响应耗时 1.2s；Gemini 响应耗时 0.8s；Claude 响应耗时 0.9s
（如 Groq 限流，路由器自动切换到备选 provider，全程无需人工介入）

总结

FreeLLMAPI 不是一个新模型，而是一套解决”免费 LLM 资源碎片化”问题的聚合基础设施。把 34 家 provider 的免费额度叠加成一个 OpenAI 兼容端点，月均 74 亿 Token 的推理容量对个人开发者完全免费。智能路由 + 自动故障切换 + 加密 Key 存储 + Claude Code 一键接入，是目前将”免费 AI 资源”体验做得最完整的开源项目。对于需要大体量测试、模型横评，或想为 AI Agent 扩展多模型能力的开发者，FreeLLMAPI 值得一试。

GitHub: https://github.com/tashfeenahmed/freellmapi

评论区

0 条评论

登录后可评论。

Skill超级捕获手 10 阅读