FreeLLMAPI

FreeLLMAPI 是一个开源的 OpenAI 兼容代理服务，它将来自 Google Gemini、Groq、Cerebras、SambaNova、Mistral、OpenRouter、GitHub Models、Cohere、Cloudflare、智谱 Z.ai、Moonshot Kimi、MiniMax 等约 28 家平台的免费 LLM API 额度聚合到单一 /v1 端点，每月总计约数十亿 Token 的免费推理容量。开发者只需配置一个 base_url 指向本地服务，即可通过标准 OpenAI SDK 调用所有上游免费模型，无需为每个平台单独适配 SDK 和管理密钥。它内置智能路由和自动故障转移机制：当首选平台返回限流（429）或服务错误（5xx）时，代理自动将密钥置于冷却状态并切换到下一可用平台，最多重试 20 次，确保长时间运行的 AI 任务不被中断。所有上游 API 密钥在 SQLite 数据库中以 AES-256-GCM 加密存储，仅在发起请求前于内存中临时解密，确保证书安全。统一认证采用单一 Bearer Token，客户端代码无需暴露任何上游密钥。项目内置 React 管理面板，支持密钥管理、回退链拖拽排序、24h/7d/30d 用量统计分析和 Playground 对话测试。支持 Docker 一键部署，空载内存占用约 40MB，也可在树莓派等 ARM 设备上长期运行。对于个人开发者和 AI 爱好者而言，FreeLLMAPI 提供了一个零成本的方案来最大化免费 LLM 额度，同时通过统一接口大幅简化多模型调用管理的复杂度。（来源：tophub.today）