Positron AI

绕开HBM的推理加速硬件

LLM大模型 部分免费

产品简介 Positron AI 是一家做生成式 AI 推理硬件的公司,2023 年成立,总部位于美国内华达州里诺。它走了一条与主流不同的路:不依赖高带宽内存与先进封装产能,改用通用低功耗内存做内存优先架构,专门服务 Transformer 模型的推理。按官方说法,其设计的内存带宽利用率超过 90%(公司自测数据),因此可以在风冷或液冷数据中心以不同机架密度部署,无需改造制冷系统。

核心功能

  • Atlas 推理整机:已量产交付的推理设备,单机可支撑最多 5000 亿参数模型,目前以 50 组以上机架的规模部署在甲骨文云基础设施上。
  • Titan 系统:计划 2027 年推出,单机由 4 至 8 颗自研芯片组成,最高挂载 18.4TB 加速器直连内存,面向智能体、长上下文与多模态负载。
  • Asimov 推理芯片:单芯片最高 2.3TB 内存,计划 2026 年底完成流片,2027 年下半年量产。
  • 模型管理器:把训练好的模型文件直接拖拽上传,平台自动映射到硬件,官方称支持所有基于 HuggingFace 变换器库的模型,无需改造。
  • 兼容接口:对外提供与 OpenAI 接口规范一致的端点,现有应用改一行地址即可调用。
  • 异构推理分工:在同一个机房内让显卡负责计算密集的预填充,Positron 负责逐词元解码。

特色优势

  • 绕开高带宽内存与先进封装的产能瓶颈,供应链压力更小。
  • 官方模拟数据显示,在每秒 400 词元每用户的交互速度下,其每美元产出词元量约为对比方案的 4.1 倍;在每秒 170 词元每用户时,每美元词元量可达 26 倍。
  • 更快的推理可以直接卖更高的价格,官方以快速模式收两倍费用的行业惯例测算收入侧收益。
  • 已有真实客户部署,不是实验室样机;2026 年 9 月完成 8.75 亿美元 C 轮,估值 50 亿美元。

应用场景

  • 云厂商与新云的差异化推理产品:用专用芯片做解码,用显卡做预填充。
  • 长上下文与智能体负载:把权重与超长上下文完整放进内存,稳定输出。
  • 多模态与视频生成:对内存带宽敏感的生成类任务。
  • 大规模模型服务:需要控制单词元成本的自建推理集群。

适用人群 云厂商与新型算力服务商、推理服务提供商、自建推理集群的企业基础设施团队,以及关注单词元成本与能效的模型运营方。

出品方 Positron AI,联合创始人兼首席执行官 Mitesh Agrawal,总部位于美国内华达州里诺。2026 年 9 月完成 8.75 亿美元 C 轮,由 NEA、Valor Equity Partners、Atreides Management、Andra Capital、SemiAnalysis Capital 与吉姆·克拉克联合领投,卡塔尔投资局与 Liberty Global Tech Ventures 参投。

更新动态 2026 年 10 月 20 日,公司与异构算力新云 General Compute 宣布多阶段供货合作:对方以集群规模采购 Atlas,并承诺采购下一代 Titan,Atlas 算力自 2027 年第一季度起向其客户开放。需要提醒的是,性能与能效数字多为官方自测或周期精确模拟结果,尚缺第三方复现。

官网链接 https://www.positron.ai/

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论