Auriko

Auriko 是一个面向 AI 基础设施的 LLM Gateway 和成本控制平台，为需要在生产环境中运营 LLM 的团队提供统一的路由、观测与费用优化能力。

它解决的核心问题：随着团队接入的 LLM 提供商和模型数量增加，API 调用分散在 OpenAI、Anthropic、Google xAI、DeepSeek 等多个平台，缺乏统一的路由策略、成本追踪和性能监控工具。

主要功能：

• 统一 API 网关：一次接入，切换底层模型无需改代码，OpenAI 兼容接口
• 深度成本优化：不是简单比价，而是模拟工作负载在各家定价体系和缓存机制下的实际成本，智能路由到最优解
• 预测性信号：实时追踪各 provider 的健康状态、缓存命中率、吞吐量，并结合历史使用模式预测成本
• 路由策略：支持按 TTFT（首 Token 时间）、吞吐量、成本设置约束条件，可配置 fallback 链路
• 全球分布式边缘网络：降低跨区域调用延迟
• 结构化输出支持：面向生产级 AI 应用

支持提供商：OpenAI、Anthropic、Google AI Studio、xAI、Fireworks AI、Together AI、DeepSeek、MiniMax、Moonshot AI、Z.AI、SiliconFlow。

面向团队：AI 应用开发者、需要集中管理 LLM 调用成本的 Engineering 和 FinOps 团队。