一、这个模型和ChatGPT完全不一样
你可能以为Liquid AI又要卷一个聊天模型,但这家MIT孵化的小众公司,走了一条完全不一样的路。
2026年10月7日,Liquid AI正式开源了d1系列决策模型(d1 decision models),包含两款:
- d1-3B(3.12B参数):接受文本+图像输入
- d1-omni-600M(587M参数):接受文本+图像,或者文本+音频
最特别的是:它们不输出任何Token。
传统大模型(GPT、Claude、Gemini)是一个字一个字往外蹦”今天”→”天气”→”很”→”晴”,然后让应用代码去解析这段自然语言。d1系列直接给你一个校准后的结构化答案(比如”P(yes)=0.92″、”选A概率0.7″或”打分7分”),一次前向推理就完事。
Liquid AI定义了三种问题类型:
- noul(是非题):返回P(yes)
- choice(选择题):返回所有候选标签的完整概率分布
- score(评分题):2~10级有序打分,返回概率加权评分
一次请求可以在同一个状态上并行问多条问题,所有响应都标注output_tokens: 0。这种范式被称为“Decision Model”(决策模型)——不生成文本,只返回结构化决策。
二、为什么这是AI能力边界的突破
过去两年,大模型的”军备竞赛”全部围绕”更大、更长、更会写”展开。但现实中30-40%的生产LLM调用(来源:techpulse.press)其实是分类、路由、意图识别这类不需要生成文本的任务。
传统LLM做这类任务有三大浪费:
- Token逐个生成导致延迟高(哪怕一个分类也要等几十~几百ms)
- 解析JSON/标签需要额外工程,容易出错
- 大模型回答不可预测,概率未校准难以直接做下游判断
d1系列把这三件事一次性解决:8ms出答案、结构化输出、自带校准概率。
三、实测速度:8ms跑完一道题
Liquid AI联合NVIDIA,在四款硬件上做了端到端延迟测试(数据来源:Liquid AI官方博客+theagentwatch):
| 设备 | 单题延迟 | 三题延迟 | 384px图像 |
|---|---|---|---|
| NVIDIA RTX 4090(桌面GPU) | 8 ms | 21 ms | 17 ms |
| AMD MI325X | 9 ms | 14 ms | 18 ms |
| Jetson AGX Thor(机器人开发板) | 16 ms | 20 ms | 35 ms |
| Jetson AGX Orin 64GB | 26 ms | 35 ms | 83 ms |
| Jetson Orin Nano($250小开发板) | 50 ms | 73 ms | 202 ms |
| Apple M5 Pro | 30 ms | — | — |
关键是,三道题同时问只比一道题慢1.3倍(Thor从16ms→20ms)。这意味着实际生产场景里,一条用户消息可以一次性判断”是投诉吗→选billing团队→紧急度评分8分”,全部一次返回。
对比传统LLM:哪怕GPT-6.1 Sol UltraFast tier,单次分类也要150ms+;在$250的Jetson Orin Nano上,d1-3B比云端LLM快至少50倍。
四、基准表现:小模型打败大模型12倍体量
在Decision Index v0.2.1(公开测试集)上:
| 模型 | 参数量 | Decision Index v0.2.1 | 文本基准平均分 |
|---|---|---|---|
| d1-3B | 3.12B | 48.57(第1,10B以下) | 82.9 |
| d1-omni-600M | 0.587B | 15.95 | 78.4 |
| Decider 35B-A3B | 34.7B(3B激活) | 47.11 | — |
| Decider 4B | 4.2B | 40.70 | 81.1 |
| Decider 2B | 2B | — | 77.1 |
| Winnow-12B | 12B | 50.02(唯一比d1-3B高的) | — |
d1-3B以3.12B参数击败了12倍体量的Decider 35B-A3B(34.7B),仅次于12B的Winnow。在文本基准测试(SQuAD 2.0 / Civil Comments / MASSIVE intent / PubMedQA / BoolQ / XNLI / PAWS-X)上,d1-3B平均82.9,是所有对比模型中最高。
注意:Decision Index v0.2.1分数由Liquid AI自己跑官方scorer得到,并非独立提交,dev48的TUN小组呼吁读者保留审视。
五、两款模型的架构区别
d1-3B(3.12B)——基于LFM2.5-VL-3B视觉语言模型改造(仅解码器架构),融合了LFM2.5-2.6B文本主干的权重,再用多种子+多数据混合微调后合并权重。视觉部分搭载400M SigLIP2 NaFlex视觉编码器,上下文窗口32768 Token。
d1-omni-600M(587M)——基于LFM2.5-Encoder-350M双向编码器,加入:
- 94M视觉编码器(LFM2.5-VL-450M)
- 112M音频编码器(17层FastConformer)
上下文16384 Token,音频片段≤30秒,一次请求可带图像或音频(不能同时含两者)。音频训练只覆盖英语说话人对助手的请求。
两者都内置到Llama.cpp(首日支持)、支持NVFP4量化,覆盖Apple Silicon、AMD、Qualcomm、NVIDIA全栈硬件。
六、6大真实落地场景
Liquid AI官方推荐d1用在这些场景(均为不需要生成文本的任务):
- 客服工单分流:一条d1-3B调用,同时判断”是否退款申请”(noul)+”归哪个团队”(choice)+”紧急度1-10″(score)
- 边缘实时视觉质检:工厂流水线在Jetson AGX Thor上35ms/帧判读384px图像,质检、零件计数、缺陷识别
- 内容审核护栏:直播、UGC平台实时过毒性、违规、政治敏感内容
- 检索重排(Reranking):RAG系统里给候选文档打分
- LLM-as-a-Judge打分:评估另一个LLM的输出质量
- AI代理安全护栏:Agent执行前的意图校验、动作授权判断
Liquid AI还做了10个实时Demo放在System One Arcade(Hugging Face Space),包括手势控制游戏、Isaac Sim机器人硬件在环测试、实时内容审核,全部跑在d1-3B上,一帧一次前向推理。
七、5个值得记住的关键事实
- 许可证:LFM Open License v1.0,年收入低于1000万美元的企业免费商用(年收入超1000万需联系授权)
- 下载平台:Hugging Face(d1-3B、d1-omni-600M两个仓库,附GGUF与w8a8量化)
- 依赖要求:transformers≥5.14,PyTorch、torchvision、Pillow,必须用trust_remote_code=True加载
- d1-omni-600M限制:实验性研究版本,无公开延迟数据,音频决策基准是开放问题未解决
- Decision Index v0.2.1分数:48.57(d1-3B)由Liquid AI自跑官方scorer,不是第三方独立验证
八、和传统LLM的5点关键差异
| 维度 | 传统LLM(GPT/Claude) | d1决策模型 |
|---|---|---|
| 输出 | 逐Token生成文本 | 结构化概率分布 |
| 延迟(边缘) | 云端数百ms | 边缘16-50ms |
| 解析工程 | 需要JSON parser、提示词模板 | 零解析,直接读取P值 |
| 概率校准 | 未校准,难做下游判断 | 自带校准,可直接做路由 |
| 典型场景 | 对话、写作、代码 | 分类、路由、审核、打分 |
九、5个常见疑问
Q1:d1-3B能聊天吗?
不能。d1系列不是聊天模型,不输出文本,只能返回结构化决策结果。如果你需要自然语言回答,仍然需要传统LLM。
Q2:和企业级API(GPT-6.1、Claude Sonnet 5.5)比起来怎么样?
d1不与这些模型正面竞争。它定位是边缘端、低延迟、结构化决策,替代的是传统分类器、规则引擎、轻量BERT蒸馏模型。它比传统LLM做分类快50倍以上、成本低到忽略。
Q3:开源协议限制商用吗?
LFM Open License v1.0允许年收入1000万美元以下的企业免费商用,超过则需向Liquid AI申请商业授权。这意味着初创公司和中小企业可以无门槛使用,大企业则需要走商业流程。
Q4:能在笔记本CPU上跑吗?
可以。Llama.cpp首日支持意味着在Apple Silicon(M5 Pro实测30ms)、AMD、Qualcomm、x86 CPU上都能本地部署,不需要GPU服务器。
Q5:会不会取代传统LLM?
不会。两者是互补关系:LLM负责生成自然语言、复杂推理;d1负责分类、路由、护栏等结构化决策。理想架构是“LLM生成 + d1决策”,例如用d1做客服意图路由,复杂问题再交给LLM生成回复。
十、为什么这条值得收藏
如果你在做AI产品,30-40%的LLM调用其实是在烧钱做分类。把这类任务切到d1-3B:
- 延迟降一个数量级(8ms vs 200ms+)
- 成本几乎为零(本地推理,不付API调用费)
- 准确率与12倍体量的大模型持平
- 隐私合规(数据不出本地)
这是2026年下半年边缘AI最值得关注的范式突破——大模型不一定要”更大”,”更小、更专、更快”反而打开了实时控制、机器人、车载、工业质检等过去LLM根本落不了地的场景。
📚 信息来源
- Liquid AI官方博客:Open d1 edge decision models(www.liquid.ai/blog/d1-open)
- Hugging Face模型卡:LiquidAI/d1-3B、d1-omni-600M(含GGUF)
- AICoder深度报道:Liquid AI open-sources Open d1(aicoder.com 2026-10-08)
- Meta AI Labs技术分析:d1 benchmark对比
- HyperAI超神经中文报道:d1系列多模态决策模型(2026-10-09)
本文为编辑独立撰写的AI新闻分析,所有数据点均来自上述公开来源,基准测试分数以官方发布的v0.2.1为准。d1-omni-600M为早期研究版本,模型能力仍在迭代。