不生成一个字,只给答案:d1

liquid.ai/blog/d1-open
huggingface.co/LiquidAI/d1-3b
huggingface.co/LiquidAI/d1-om…
docs.liquid.ai/lfm/models/dec…

d1 把权重放了出来,决策模型这条线头一回能整个拖回家跑。

两枚照录。d1-3B 管高质量的文字与视觉决策,占地有讲究就试实验性的 d1-omni-600M,权重下载、微调、本地部署都行。机制上它们不生成文章,一次前向就交出结构化的答案,是或否、挑标签、按评分表打分。

底座各不相同,一个建在 LFM2.5-VL-3B 上,小的那只用 LFM2.5-Encoder-350M 再加视觉和音频编码器。成绩是自报的,Decision Index 0.2.1 上 d1-3B 拿 48.57,压过 Decider 35B-A3B 的 47.11。

延迟那栏,单问在 Jetson AGX Thor 上十六毫秒、Orin 二十六毫秒、Orin Nano 五十毫秒。

四条链接摆全,博客、两个模型页、文档,一处都别漏。

"不生成一个字、只交答案"这半句是全场重心。前面给形状不给自由发挥讲的是让主模型吐出能进流程的形状,这条讲的是连吐都不吐、单程直接出结果。跟前面把决定挪进系统呼应,那条改的是谁在定,这条改的是定得多快,两头都在往省的那一侧压。跟前面三天走下来那批大动作也接得上,一个把界面越做越厚,一个把输出越削越薄,两边同时往两头走。

我单拎出来的是那个十六毫秒。放在路测这个量级上,答案比眨眼还快两个数量级,这类数字一旦进了生产链路,人对响应的期待就得重写。

我留的疑问有三处。音频那边的基准成绩没给;许可写的是 LFM 1.0、具体条文没在推里;生产环境的真实表现也没第三方验。

这周拿一段本来要调大模型的分类活换它试试,看十六毫秒是不是能在真链路上站住。

话题来源 @liquidai 4.5K阅读 ❤️68 x.com/…↗ 已改写,非原文转载 Open d1: Edge decision models for text, vision, and audio | Blog d1-3B and d1-omni-600M, open-weight decision models from Liquid AI for text, vision, and audio that run in milliseconds from NVIDIA DGX to Jetson Liquid AI
58 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单