Coral Bricks

一家专注于为 AI Agent 打造高吞吐量推理平台的公司,其核心理念是"让前沿智能变得人人可负担"

LLM大模型 部分免费

Coral Bricks 是一家专注于为 AI Agent 打造高吞吐量推理平台的公司,其核心理念是"让前沿智能变得人人可负担"。平台主要服务于研究和编码类 Agent 场景——这类 Agent 需要长时间运行、处理长上下文、频繁调用工具、规划多步骤任务,传统的 token 计费 API 无法满足其需求。

产品简介

Coral Bricks 构建了一套专为 Agent 工作负载设计的推理基础设施,解决传统 LLM API 在以下三个维度的根本性不适配:速率限制(Rate Limits)会直接扼杀真实的多 Agent 并发任务;排队机制将一个 20 分钟的任务拖成 4 小时;按 token 计费让高密度 Agent 任务的成本失控。Coral Bricks 的解法是:相同模型、相同提示词,但数倍于传统方案的 tokens/秒吞吐量,同时将成本压缩到传统方案的几分之一。目前平台支持 GLM 5.3、Kimi K3 和 GPT-OSS 120B 等大模型,拥有超过 500 名开发者用户,包括 Corvic AI、Microsoft、NVIDIA 等企业的工程师。

核心功能

  • GPU 原生推理加速:图遍历和向量搜索直接跑在 GPU 上,而非传统 CPU 计算。对于需要跨大型知识图谱做多跳推理的 Agent,这意味着查询时间从秒级降至毫秒级
  • 免费缓存读取:写入缓存后,同一前缀的所有后续读取均免费;竞品按每次读取计费。Coral Bricks 实测缓存命中率达 98.53%,而 OpenRouter 约 90.61%
  • 跨 Agent 共享缓存:缓存由整个 Fleet 共享,而非按单次对话session计时,大幅降低重复计算成本
  • 按吞吐量计费而非按 token 计费:突破传统 API 按调用次数和 token 数计价的方式,适合长时间运行的 Agent 任务
  • 金融基准测试 SOTA:基于 Coral 运行时构建的参考深度研究 Agent AlphaCumen,在公开金融基准上取得领先成绩:Vals AI Finance Agent v2 达 82.6%、Vals AI Finance Agent v1.1 达 90%、FinanceBench 达 89.3%,每次查询成本仅 0.13 美元
  • Agent 原生接口:与 OpenCode、Codex CLI、GitHub Copilot(BYOK)、Cursor 等主流编码工具深度集成,开箱即用无需配置 base URL

特色优势

  • 成本效率:在 Kimi K3 场景下,OpenRouter 估算月费用 428.88 美元,而 Coral Bricks 同样工作负载仅需 54.28 美元,节省约 87%
  • 可靠性:P50 解码速度达 340 tokens/s,系统可靠性达 99.86%("nines"指标),支持突发最高 1 亿 tokens/分钟的工作负载
  • 专注开源模型:优先支持 GLM、Kimi、Qwen 等国产及国际开源大模型,而非将闭源 frontier 模型作为唯一选项
  • 多租户弹性配额:组织级独立配额,避免多 Agent 并发时遭遇 429 限速错误
  • 自定义部署选项:提供专用容量(Dedicated Capacity)模式,部署在用户自有 VPC,按资源计费而非 token 计费,适合已超出 Serverless 规模的团队

应用场景

  • 编码 Agent 加速:Claude Code、Cursor 等编码助手长时间运行复杂任务时,Coral Bricks 提供持续高吞吐量推理,避免 token 焦虑
  • 金融研究 Agent:AlphaCumen 等金融分析 Agent 跨 SEC 文件、全球新闻、实体关系网络进行 GPU 加速推理,每次查询成本低至 0.13 美元
  • 大规模 Agent 实验:如"4 个 Claude Code Agent 协作运行 108 次 LoRA 微调实验",总耗时约 3 天 LLM 时间加几小时人工监管,HotpotQA 准确率从 0.13 提升至 0.72
  • 长上下文推理:1,048,576 token 超长上下文窗口,专为需要处理大型文档、代码库、长对话历史的 Agent 设计

适用人群

  • 需要运行长时间、多步骤 AI Agent 任务的研究团队和工程团队
  • 对 token 成本敏感、但又不愿为了省钱而降低模型质量的开发者
  • 正在构建金融分析、法律研究、医疗研究等垂直领域专业 Agent 的 AI 工程师
  • 需要在企业级规模部署 AI Agent 并需要可预测成本结构的技术负责人

出品方与更新动态

Coral Bricks 成立于旧金山,团队规模小而技术驱动。公司持续快速迭代,近期更新包括:2026 年 6 月发布 AlphaCumen 金融基准测试详细报告,2026 年 7 月上线 GPT-OSS 120B 支持,2026 年 8 月持续优化缓存机制和吞吐量性能。平台采用 OpenAI 兼容的 Responses API 协议,与现有工具链无缝衔接。

官网链接

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论