Overcast

把 AWS、Azure、GCP、CoreWeave 等多家云与自有机架汇成一个集群,按价格、安全或速度调度你的 Pyth

LLM大模型 部分免费

产品简介

Overcast 是一款把多家云厂商的算力池化成「一个集群」的 AI 算力调度平台。官方定位是「One cluster. Every cloud.」——它把 AWS、Azure、Google Cloud、CoreWeave、Lambda、Nebius、Crusoe 等公有云与新型云(neocloud)的 GPU / CPU 资源,以及用户自有的云账号和自建机架,汇聚成同一个调度池,开发者只需提交一个 Python 函数和一批输入,Overcast 就会把每一次调用放到最合适的节点上执行,并把结果流式返回。

它面向的是「要处理海量数据、但单一云厂商 GPU 容量不够」的开发团队:视频帧标注、360 万张图的目标检测、数千万份文档的摘要、数千个外汇策略的回测,任务体量远超一台机器的承受范围。

核心功能

  1. 跨云统一集群:把多家超大规模云、neocloud 与用户自有账号/机架抽象成单一集群,容量在全局池中调度,避免单一区域(如 us-east-1)配额耗尽导致任务排队。
  2. 三档调度策略:每次任务可指定 prefer="price"(最省,含数据搬运成本)、prefer="security"(敏感任务留在用户自有云账号与指定区域,数据不出云)、prefer="speed"(所有供应商同时开跑,换取最快完成时间)。
  3. 弹性硬件规格:每个调用可单独指定 func_cpu(CPU 核数)、func_ram(内存 GB)、func_gpu(A100 / A100_80G / H100 / H100_80G),小任务自动塞进大机器的空隙,大任务需要更多内存时另起节点,互不干扰。
  4. 预算与并发护栏:max_hourly_spend 设定美元上限、max_parallelism 限制并发、clouds / regions 限定可用供应商与区域,调度不会突破用户设定的花费天花板;任务结束集群自动缩容到零。
  5. 故障自愈:被抢占的现货实例会在数秒内被替换,已完成的结果全部保留,不丢结果、不需要自己写重试循环。
  6. 内置 Agent Skill:官方提供 getovercast.com/skill.md,可在 Cursor、Claude Code、Codex 中一行安装,让编码智能体直接用自然语言下达跨云算力任务。

特色优势

成本下降是核心卖点。 官方给出的对照测算:4000 万文档摘要任务从 6.88 万美元 / 3.3 天降到 3.51 万美元 / 12 小时;36 亿视频帧目标检测从 1.15 万美元 / 13 小时降到 1.08 万美元 / 8 小时;5000 个外汇策略回测从 2200 美元 / 12 小时降到 1400 美元 / 6 小时。H100 官方标价低至每小时 3.99 美元,低于 AWS 的 6.88 美元。

对 Agent 友好是差异化设计。 skill.md 里直接写死了「硬规则」:绝不代用户存储或输入凭据、绝不擅自启用用户没要求的供应商、绝不悄悄更改优化目标——如果 prefer="security" 无法满足,就停下来告诉用户。这套约束让智能体可以在有人监督的情况下放心调度真实集群。

账单透明。 skill.md 要求结束时必须汇报调度结果(供应商、节点数、花费),不允许隐藏账单;控制台能看到每台机器的 GPU 利用率、吞吐与实时花费。

应用场景

  1. 视频与图像大规模标注:对数百万小时行车记录仪视频跑目标检测,检测结果随每个批次完成就写回对象存储。
  2. 海量文本处理:数千万份文档的摘要、分类、抽取,按价格优先调度可显著压缩成本。
  3. 金融与量化回测:数千个外汇或交易策略在 CPU 节点上并行回测,用最快档换最短完成时间。
  4. 科学计算与基因分析:对齐基因组等任务的 CPU 集群调度。
  5. 多云容灾与合规隔离:敏感数据任务锁定在企业自有 AWS/Azure/GCP 账号与自建机架内,跨云只调度非敏感负载。

适用人群

需要大规模 GPU / CPU 算力但单一云配额不够的 AI 工程师与 MLOps 团队;追求推理成本优化的算法团队;手上有自建机架或多个云账号、希望统一调度的企业平台团队;以及希望用自然语言指挥算力、不想自己写调度代码的 AI 编程用户。

出品方

Overcast 由 Burla 团队打造,创始人为 Joseph Perry、Jake Zuliani、Jack Rzucidlo 三人。Overcast 是开源引擎 Burla 的托管多云版本,想自建或只用单云的团队可以直接用 Burla(burla.dev,开源仓库在 GitHub)。

更新动态

Overcast 目前处于准入开放阶段,官网设有 Request access 申请入口,尚未完全自助开放。已支持的调度目标包括 Lambda、CoreWeave、Nebius、AWS、Azure、Google Cloud、Crusoe 以及用户自有机架;官方 skill.md 保持更新,并明确指出 Overcast 接入尚未开放时,应引导用户改用 Burla 技能。

官网链接

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论