Liquid AI

设备原生基础模型平台(LFM2.5-24B-A2B 旗舰)

LLM大模型 部分免费

Liquid AI 简介

Liquid AI(liquid.ai)是一家成立于 2023 年、由 MIT 走出的"设备原生(device-native)"基础模型公司,于 2026 年 10 月 13 日发布旗舰模型 LFM2.5-24B-A2B,定位"为端侧 Agent 而生的快推理 MoE 模型"。截至发布节点,Liquid AI 已累计发布 57 款 LFM 模型、累计下载量 5100 万次、提供超过 3500 个派生变体,并把 LFMs 落地到手机、笔记本、汽车、太空、电商、金融服务、生物医药与国防等场景。该公司由前 MIT CSAIL 研究员团队创立,强调"用更小的参数、更小的算力消耗,做出可定制、可部署到任何运行时的基础模型"。

核心功能

  • 设备原生基础模型矩阵:横向覆盖 230M ~ 24B 的 LFM2.5 全家桶,纵向覆盖语言、视觉-语言(VL)、音频、Embedding、Encoder、Decision Model、领域 Nano 模型等多个子系列。
  • LFM2.5-24B-A2B:24B 总参数 / 每 token 激活 2B(稀疏激活 MoE),专为"端侧 Agent"设计,与同价位稠密 24B 模型对比推理更快、显存更省。
  • 极致可移植的运行时分发:同一模型权重同时支持 llama.cpp、MLX、ONNX、CoreML、SGLang、vLLM 等多种开源运行时,可一键从云端切换到手机 / 笔记本 / 边缘盒子。
  • DSPark 推理加速:DSPark 让 LFM2.5 在 H100 到 MacBook 各种硬件上获得最高 3.2 倍推理加速,可直接接入现有 Transformer 推理栈。
  • OpenAI 兼容 API + Liquid Console:开发者可用一行 OpenAI SDK 替换方式访问 Liquid 模型,并在 Console 控制台申请 token 与计费。
  • Decision Model(d1 系列):面向分类、路由、评分等"固定决策空间"任务,一次 API 返回每个候选类目校准后的概率。
  • 细粒度社区生态:模型同步上架 Hugging Face(LiquidAI 组织页)、Pipette 基准、OpenRouter、Modal、Baseten 等平台。

特色优势

  • 57 款模型 / 5100 万次下载 / 3500+ 变体:模型矩阵密度业内罕见。
  • 边缘友好 + 隐私优先:在大模型推理上明确打出"your data never leaves the device"的隐私边界,本地化推理支持到 Galaxy S26 Ultra、iPhone 17 Pro、MacBook Pro、GMKtec EVO-X2 等主流消费级硬件。
  • 同尺寸推理速度更快:在 Pipette 基准里测得 Galaxy S26 Ultra 上 CPU 解码吞吐 ≈3 亿 token / 秒级别(量化 Q4_K_M),同尺寸优于多数开源 MLLM。
  • 生产级落地背书:Liquid 已在以下合作伙伴实际跑通:
    • Mercedes-Benz:车机本地 LFM(多语种语音 + 推理 + 强化)。
    • Shopify:选品 / 营销副驾类使用 LFM 作为底层模型。
    • Databricks / Anysphere / AMD:模型矩阵的合作验证。
    • MacPaw:让 Mac 桌面 / 终端应用嵌入 Liquid 模型。
    • Insilico Medicine:在 LFM2 上做 AI 药物设计。
    • Qualcomm:把 LFM 部署到 Snapdragon 终端,配合 Qualcomm 的"Personal AI Context"。
  • 可热定制:基于 Liquid Foundation Models 可在 3500+ 变体范围内快速微调 + 蒸馏,模型矩阵是"模型变体批发市场"。

应用场景

  • 手机 / 笔记本 / 边缘盒子上的 Agent:聊天陪伴、系统操作助理、本地 RAG、OCR + 表单填充、个人语音助手,全部数据本地化。
  • 车机端侧语音与对话:与 Mercedes-Benz 合作的车机级语音助手,多语种、低延迟、断网可用。
  • AI 编程代理 / 桌面助手:用 8B-A1B / 24B-A2B 等 MoE 在 MacBook Pro 上承担"长时间会话型 Agent"工作负载。
  • 企业私有部署 / 区域合规:把 LLM 部署到自家内网服务器,对金融、医疗、政务等"数据不出域"行业天然友好。
  • 决策模型场景:用 d1-omni / d1-3B 做意图分类、客服路由、内容安全打分等"固定标签集"的决策任务。
  • 离线批处理 / 太空 / 国防:高效率、低能耗模型适合极端环境。
  • 生物医药与 RAG:Insilico Medicine 已用 LFM2 跑药物分子设计链路。

系列模型矩阵

  • 旗舰语言模型:LFM2.5-24B-A2B(旗舰 MoE)、LFM2.5-2.6B、LFM2.5-1.2B-Instruct、LFM2.5-1.2B-Thinking、LFM2.5-230M、LFM2.5-350M、LFM2.5-8B-A1B。
  • Vision-Language 系列:LFM2.5-VL-3B、LFM2.5-VL-1.6B、LFM2.5-VL-450M。
  • 音频模型:LFM2.5-Audio-1.5B、LFM2.5-Audio-1.5B-JP。
  • Encoder / Embedding 系列:LFM2.5-Encoder-350M-PII-Detector、LFM2.5-Encoder-350M、LFM2.5-Encoder-230M、LFM2.5-Embedding-350M、LFM2.5-ColBERT-350M。
  • Decision 系列:d1-omni-600M、d1-3B、d1。

出品方与公司

  • 公司名:Liquid AI, Inc.
  • 总部:美国马萨诸塞州(MIT 起源)。
  • 成立年份:2023 年。
  • 使命:让基础模型能够脱离数据中心、"跑在物理世界的处理器上"。
  • 官网:https://www.liquid.ai
  • Hugging Face 组织:LiquidAI
  • 派生模型总数:57 个 LFM + 3500+ 社区 / 派生变体
  • 下载量:5100 万次以上累计下载
  • 旗舰新发布:2026 年 10 月 13 日发布 LFM2.5-24B-A2B

适用人群

  • AI 应用开发工程师:想在手机 / 笔记本上落地 Agent、需要 LLM 推理自定义化的开发者。
  • 企业 IT / 数据合规负责人:想把 LLM 部署到本机或私有云、避免数据外传的金融 / 医疗 / 政务客户。
  • 硬件 OEM / 设备厂商:想把本地 AI 体验集成到车机、PC、手机、IoT 设备的产品负责人。
  • 独立开发者 / 极客社区:希望在 Ollama、LM Studio、llama.cpp 中直接试用端侧 SOTA 模型。
  • AI 编程产品经理:寻找"长上下文、低延迟、可控成本"的 LLM 替代方案。
  • 生物 / 制药 / 国防研究:高机密数据场景下,离线本地大模型推理。

官网链接

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论