Coral Bricks
一家专注于为 AI Agent 打造高吞吐量推理平台的公司,其核心理念是"让前沿智能变得人人可负担"
Coral Bricks 是一家专注于为 AI Agent 打造高吞吐量推理平台的公司,其核心理念是"让前沿智能变得人人可负担"。平台主要服务于研究和编码类 Agent 场景——这类 Agent 需要长时间运行、处理长上下文、频繁调用工具、规划多步骤任务,传统的 token 计费 API 无法满足其需求。
产品简介
Coral Bricks 构建了一套专为 Agent 工作负载设计的推理基础设施,解决传统 LLM API 在以下三个维度的根本性不适配:速率限制(Rate Limits)会直接扼杀真实的多 Agent 并发任务;排队机制将一个 20 分钟的任务拖成 4 小时;按 token 计费让高密度 Agent 任务的成本失控。Coral Bricks 的解法是:相同模型、相同提示词,但数倍于传统方案的 tokens/秒吞吐量,同时将成本压缩到传统方案的几分之一。目前平台支持 GLM 5.3、Kimi K3 和 GPT-OSS 120B 等大模型,拥有超过 500 名开发者用户,包括 Corvic AI、Microsoft、NVIDIA 等企业的工程师。
核心功能
- GPU 原生推理加速:图遍历和向量搜索直接跑在 GPU 上,而非传统 CPU 计算。对于需要跨大型知识图谱做多跳推理的 Agent,这意味着查询时间从秒级降至毫秒级
- 免费缓存读取:写入缓存后,同一前缀的所有后续读取均免费;竞品按每次读取计费。Coral Bricks 实测缓存命中率达 98.53%,而 OpenRouter 约 90.61%
- 跨 Agent 共享缓存:缓存由整个 Fleet 共享,而非按单次对话session计时,大幅降低重复计算成本
- 按吞吐量计费而非按 token 计费:突破传统 API 按调用次数和 token 数计价的方式,适合长时间运行的 Agent 任务
- 金融基准测试 SOTA:基于 Coral 运行时构建的参考深度研究 Agent AlphaCumen,在公开金融基准上取得领先成绩:Vals AI Finance Agent v2 达 82.6%、Vals AI Finance Agent v1.1 达 90%、FinanceBench 达 89.3%,每次查询成本仅 0.13 美元
- Agent 原生接口:与 OpenCode、Codex CLI、GitHub Copilot(BYOK)、Cursor 等主流编码工具深度集成,开箱即用无需配置 base URL
特色优势
- 成本效率:在 Kimi K3 场景下,OpenRouter 估算月费用 428.88 美元,而 Coral Bricks 同样工作负载仅需 54.28 美元,节省约 87%
- 可靠性:P50 解码速度达 340 tokens/s,系统可靠性达 99.86%("nines"指标),支持突发最高 1 亿 tokens/分钟的工作负载
- 专注开源模型:优先支持 GLM、Kimi、Qwen 等国产及国际开源大模型,而非将闭源 frontier 模型作为唯一选项
- 多租户弹性配额:组织级独立配额,避免多 Agent 并发时遭遇 429 限速错误
- 自定义部署选项:提供专用容量(Dedicated Capacity)模式,部署在用户自有 VPC,按资源计费而非 token 计费,适合已超出 Serverless 规模的团队
应用场景
- 编码 Agent 加速:Claude Code、Cursor 等编码助手长时间运行复杂任务时,Coral Bricks 提供持续高吞吐量推理,避免 token 焦虑
- 金融研究 Agent:AlphaCumen 等金融分析 Agent 跨 SEC 文件、全球新闻、实体关系网络进行 GPU 加速推理,每次查询成本低至 0.13 美元
- 大规模 Agent 实验:如"4 个 Claude Code Agent 协作运行 108 次 LoRA 微调实验",总耗时约 3 天 LLM 时间加几小时人工监管,HotpotQA 准确率从 0.13 提升至 0.72
- 长上下文推理:1,048,576 token 超长上下文窗口,专为需要处理大型文档、代码库、长对话历史的 Agent 设计
适用人群
- 需要运行长时间、多步骤 AI Agent 任务的研究团队和工程团队
- 对 token 成本敏感、但又不愿为了省钱而降低模型质量的开发者
- 正在构建金融分析、法律研究、医疗研究等垂直领域专业 Agent 的 AI 工程师
- 需要在企业级规模部署 AI Agent 并需要可预测成本结构的技术负责人
出品方与更新动态
Coral Bricks 成立于旧金山,团队规模小而技术驱动。公司持续快速迭代,近期更新包括:2026 年 6 月发布 AlphaCumen 金融基准测试详细报告,2026 年 7 月上线 GPT-OSS 120B 支持,2026 年 8 月持续优化缓存机制和吞吐量性能。平台采用 OpenAI 兼容的 Responses API 协议,与现有工具链无缝衔接。
官网链接
团队信息
AI产品库
官方
由 AI 猎手自动发现
评论与建议
登录 后参与评论或提建议