一、这个模型和ChatGPT完全不一样

你可能以为Liquid AI又要卷一个聊天模型,但这家MIT孵化的小众公司,走了一条完全不一样的路。

2026年10月7日,Liquid AI正式开源了d1系列决策模型(d1 decision models),包含两款:

  • d1-3B(3.12B参数):接受文本+图像输入
  • d1-omni-600M(587M参数):接受文本+图像,或者文本+音频

最特别的是:它们不输出任何Token。

传统大模型(GPT、Claude、Gemini)是一个字一个字往外蹦”今天”→”天气”→”很”→”晴”,然后让应用代码去解析这段自然语言。d1系列直接给你一个校准后的结构化答案(比如”P(yes)=0.92″、”选A概率0.7″或”打分7分”),一次前向推理就完事。

Liquid AI定义了三种问题类型:

  • noul(是非题):返回P(yes)
  • choice(选择题):返回所有候选标签的完整概率分布
  • score(评分题):2~10级有序打分,返回概率加权评分

一次请求可以在同一个状态上并行问多条问题,所有响应都标注output_tokens: 0。这种范式被称为“Decision Model”(决策模型)——不生成文本,只返回结构化决策。

二、为什么这是AI能力边界的突破

过去两年,大模型的”军备竞赛”全部围绕”更大、更长、更会写”展开。但现实中30-40%的生产LLM调用(来源:techpulse.press)其实是分类、路由、意图识别这类不需要生成文本的任务。

传统LLM做这类任务有三大浪费:

  • Token逐个生成导致延迟高(哪怕一个分类也要等几十~几百ms)
  • 解析JSON/标签需要额外工程,容易出错
  • 大模型回答不可预测,概率未校准难以直接做下游判断

d1系列把这三件事一次性解决:8ms出答案、结构化输出、自带校准概率。

三、实测速度:8ms跑完一道题

Liquid AI联合NVIDIA,在四款硬件上做了端到端延迟测试(数据来源:Liquid AI官方博客+theagentwatch):

设备 单题延迟 三题延迟 384px图像
NVIDIA RTX 4090(桌面GPU) 8 ms 21 ms 17 ms
AMD MI325X 9 ms 14 ms 18 ms
Jetson AGX Thor(机器人开发板) 16 ms 20 ms 35 ms
Jetson AGX Orin 64GB 26 ms 35 ms 83 ms
Jetson Orin Nano($250小开发板) 50 ms 73 ms 202 ms
Apple M5 Pro 30 ms — —

关键是,三道题同时问只比一道题慢1.3倍(Thor从16ms→20ms)。这意味着实际生产场景里,一条用户消息可以一次性判断”是投诉吗→选billing团队→紧急度评分8分”,全部一次返回。

对比传统LLM:哪怕GPT-6.1 Sol UltraFast tier,单次分类也要150ms+;在$250的Jetson Orin Nano上,d1-3B比云端LLM快至少50倍。

四、基准表现:小模型打败大模型12倍体量

在Decision Index v0.2.1(公开测试集)上:

模型 参数量 Decision Index v0.2.1 文本基准平均分
d1-3B 3.12B 48.57(第1,10B以下) 82.9
d1-omni-600M 0.587B 15.95 78.4
Decider 35B-A3B 34.7B(3B激活) 47.11 —
Decider 4B 4.2B 40.70 81.1
Decider 2B 2B — 77.1
Winnow-12B 12B 50.02(唯一比d1-3B高的) —

d1-3B以3.12B参数击败了12倍体量的Decider 35B-A3B(34.7B),仅次于12B的Winnow。在文本基准测试(SQuAD 2.0 / Civil Comments / MASSIVE intent / PubMedQA / BoolQ / XNLI / PAWS-X)上,d1-3B平均82.9,是所有对比模型中最高。

注意:Decision Index v0.2.1分数由Liquid AI自己跑官方scorer得到,并非独立提交,dev48的TUN小组呼吁读者保留审视。

五、两款模型的架构区别

d1-3B(3.12B)——基于LFM2.5-VL-3B视觉语言模型改造(仅解码器架构),融合了LFM2.5-2.6B文本主干的权重,再用多种子+多数据混合微调后合并权重。视觉部分搭载400M SigLIP2 NaFlex视觉编码器,上下文窗口32768 Token。

d1-omni-600M(587M)——基于LFM2.5-Encoder-350M双向编码器,加入:

  • 94M视觉编码器(LFM2.5-VL-450M)
  • 112M音频编码器(17层FastConformer)

上下文16384 Token,音频片段≤30秒,一次请求可带图像或音频(不能同时含两者)。音频训练只覆盖英语说话人对助手的请求。

两者都内置到Llama.cpp(首日支持)、支持NVFP4量化,覆盖Apple Silicon、AMD、Qualcomm、NVIDIA全栈硬件。

六、6大真实落地场景

Liquid AI官方推荐d1用在这些场景(均为不需要生成文本的任务):

  1. 客服工单分流:一条d1-3B调用,同时判断”是否退款申请”(noul)+”归哪个团队”(choice)+”紧急度1-10″(score)
  2. 边缘实时视觉质检:工厂流水线在Jetson AGX Thor上35ms/帧判读384px图像,质检、零件计数、缺陷识别
  3. 内容审核护栏:直播、UGC平台实时过毒性、违规、政治敏感内容
  4. 检索重排(Reranking):RAG系统里给候选文档打分
  5. LLM-as-a-Judge打分:评估另一个LLM的输出质量
  6. AI代理安全护栏:Agent执行前的意图校验、动作授权判断

Liquid AI还做了10个实时Demo放在System One Arcade(Hugging Face Space),包括手势控制游戏、Isaac Sim机器人硬件在环测试、实时内容审核,全部跑在d1-3B上,一帧一次前向推理。

七、5个值得记住的关键事实

  • 许可证:LFM Open License v1.0,年收入低于1000万美元的企业免费商用(年收入超1000万需联系授权)
  • 下载平台:Hugging Face(d1-3B、d1-omni-600M两个仓库,附GGUF与w8a8量化)
  • 依赖要求:transformers≥5.14,PyTorch、torchvision、Pillow,必须用trust_remote_code=True加载
  • d1-omni-600M限制:实验性研究版本,无公开延迟数据,音频决策基准是开放问题未解决
  • Decision Index v0.2.1分数:48.57(d1-3B)由Liquid AI自跑官方scorer,不是第三方独立验证

八、和传统LLM的5点关键差异

维度 传统LLM(GPT/Claude) d1决策模型
输出 逐Token生成文本 结构化概率分布
延迟(边缘) 云端数百ms 边缘16-50ms
解析工程 需要JSON parser、提示词模板 零解析,直接读取P值
概率校准 未校准,难做下游判断 自带校准,可直接做路由
典型场景 对话、写作、代码 分类、路由、审核、打分

九、5个常见疑问

Q1:d1-3B能聊天吗?
不能。d1系列不是聊天模型,不输出文本,只能返回结构化决策结果。如果你需要自然语言回答,仍然需要传统LLM。

Q2:和企业级API(GPT-6.1、Claude Sonnet 5.5)比起来怎么样?
d1不与这些模型正面竞争。它定位是边缘端、低延迟、结构化决策,替代的是传统分类器、规则引擎、轻量BERT蒸馏模型。它比传统LLM做分类快50倍以上、成本低到忽略。

Q3:开源协议限制商用吗?
LFM Open License v1.0允许年收入1000万美元以下的企业免费商用,超过则需向Liquid AI申请商业授权。这意味着初创公司和中小企业可以无门槛使用,大企业则需要走商业流程。

Q4:能在笔记本CPU上跑吗?
可以。Llama.cpp首日支持意味着在Apple Silicon(M5 Pro实测30ms)、AMD、Qualcomm、x86 CPU上都能本地部署,不需要GPU服务器。

Q5:会不会取代传统LLM?
不会。两者是互补关系:LLM负责生成自然语言、复杂推理;d1负责分类、路由、护栏等结构化决策。理想架构是“LLM生成 + d1决策”,例如用d1做客服意图路由,复杂问题再交给LLM生成回复。

十、为什么这条值得收藏

如果你在做AI产品,30-40%的LLM调用其实是在烧钱做分类。把这类任务切到d1-3B:

  • 延迟降一个数量级(8ms vs 200ms+)
  • 成本几乎为零(本地推理,不付API调用费)
  • 准确率与12倍体量的大模型持平
  • 隐私合规(数据不出本地)

这是2026年下半年边缘AI最值得关注的范式突破——大模型不一定要”更大”,”更小、更专、更快”反而打开了实时控制、机器人、车载、工业质检等过去LLM根本落不了地的场景。

📚 信息来源

  1. Liquid AI官方博客:Open d1 edge decision models(www.liquid.ai/blog/d1-open)
  2. Hugging Face模型卡:LiquidAI/d1-3B、d1-omni-600M(含GGUF)
  3. AICoder深度报道:Liquid AI open-sources Open d1(aicoder.com 2026-10-08)
  4. Meta AI Labs技术分析:d1 benchmark对比
  5. HyperAI超神经中文报道:d1系列多模态决策模型(2026-10-09)

本文为编辑独立撰写的AI新闻分析,所有数据点均来自上述公开来源,基准测试分数以官方发布的v0.2.1为准。d1-omni-600M为早期研究版本,模型能力仍在迭代。