General Compute

一、产品简介

General Compute 是一家总部位于美国加利福尼亚州的 AI 算力新云（neocloud），官方自我定位是「替代芯片的新云」。它不把通用 GPU 当作唯一底座，而是自己采购 GPU 与各类专用推理加速器，部署进托管机房，再把裸金属或按每用户每秒 token 数（TPS）承诺的 SLA 卖给客户。公司由 Finn Puklowski 与 Jason Goodison 联合创办，2026 年 5 月完成 1500 万美元种子轮，并已取得以推理硬件为抵押的 4 亿美元债务额度，目前握有超过 30 兆瓦的容量储备。

二、核心功能

1. 拆分解码架构：在同一机房里分工——GPU 负责计算密集的预填充（读取并处理提示词），专用芯片负责逐 token 的解码生成，两条链路用高速网络连接，由自家软件栈把每个请求拆开调度。
2. 多芯片池：解码侧已覆盖 Cerebras、SambaNova、Positron AI、d-Matrix 等厂商的专用加速器，预填充侧使用英伟达 GPU，客户可按任务挑架构。
3. Cerebras CS-3 部署：单 48U 机架放 2 套 CS-3，晶圆级引擎配 44GB 片上 SRAM、21PB/s 带宽，水冷、平均 47 千瓦，可在万亿参数级模型上跑到每用户 1000+ token/s。
4. 两种交付形态：既可以只买裸金属自己掌控软件栈，也可以只拿一个推理端点，由 General Compute 统一负责冷却、供电、网络与调度。
5. 一份合同一套 SLA：把 GPU 与替代芯片收进同一份合同与同一套服务承诺，避免客户为不同芯片分别谈判、分别运维。
6. 公开基准：官方用 OpenCode 在两侧跑同一任务，称端到端最高快 16.2 倍，在相同每用户速度下每机架吞吐为纯 GPU 云的 2.8 倍。
7. 芯片可视化对比：官网提供 3D 交互查看各款芯片规格与适用负载，便于按场景选型。

三、特色优势

过去云上推理产品大多只是不同型号 GPU 的组合，规格趋同、议价权集中在单一供应商手里。General Compute 押注的是「推理需求增速长期超过供给」，因此把真正的瓶颈——吃内存带宽的解码环节——交给内存优先的专用架构，再把结果以统一 SLA 交付。这种拆分若在生产环境跑出更低的单 token 成本与更稳定的响应时间，就是纯 GPU 同业难以迅速复制的差异点。

四、应用场景

• 智能体与编程工具：多步 Agent 任务对每用户 token 速度极敏感，解码加速直接缩短任务完成时间。
• 长上下文推理：把超长提示与权重放进大容量内存，减少分块与换入换出。
• 多模态负载：图像、语音与文本混合请求的实时响应。
• 实时对话产品：客服、语音助手等对首 token 延迟与流式速度要求高的场景。
• 高吞吐批处理：离线摘要、标注、评测等按成本优化的任务。

五、适用人群

构建 AI 应用与 Agent 的工程团队、推理密集型创业公司、需要在成本与延迟之间做精细取舍的平台方，以及希望摆脱单一 GPU 供应结构的企业客户。

六、更新动态

2026 年 10 月 20 日，General Compute 与推理硬件公司 Positron AI 宣布多阶段供货合作：以集群规模采购当前 Atlas 推理系统，并承诺采购下一代 Titan 系统，Atlas 算力计划自 2027 年第一季度起向 General Compute 客户开放。此前公司已公布 Cerebras 部署与 SambaNova 合作，形成「GPU 预填充 + 多厂商专用芯片解码」的完整组合。

七、官网链接

https://www.generalcompute.com