Liquid AI LFM2.5-24B-A2B端侧新王

时间：2026年10月13日 地点：美国马萨诸塞州波士顿（Liquid AI 总部） 人物：Liquid AI 团队 事件详情：Liquid AI 于 10 月 13 日发布开源大模型 LFM2.5-24B-A2B。该模型为稀疏 MoE 架构，共 240 亿参数，但每个 token 仅激活 24.5 亿参数，是 LFM2.5 系列中最大的成员，覆盖 16 种语言（含中、英、阿、法、德、日、韩、西、印、波等）。架构沿用 LFM2-24B-A2B 的 40 层（30 个双门控短卷积块 + 10 个 GQA 块）、64 专家 top-4 路由。上下文窗口从此前的 32K 扩展到 131K，词表从 65K 翻倍到 128K，预训练数据量从此前的约 17T tokens 翻倍到约 33T tokens，中训练再追加 2T 推理/数学/代码等数据和 300B 长上下文数据。它是 LFM2.5 首个推理专用模型，会先输出 chain-of-thought 再给最终答案。基准测试显示 LFM2.5-24B-A2B 在 AutomationBench 上得分 27.69，是次优模型的 3 倍多；在 LiveClaw 上得 48.09，超过参数总量比它多 50% 的 Qwen3.6-35B-A3B（38.19）。它同时领跑三个指令遵循基准 IFEval（96.75）、IFBench（74.69）、Multi-IF（84.38）。在边缘端，M5 Max 上达 184 tok/s、内存 15GB，比同级 MoE 快 1.7 倍；Ryzen AI Max+ 395 上 114 tok/s。在 NVIDIA B300 单卡上，吞吐量超过 21000 tok/s（并发 1024）。模型在 OpenClaw、Hermes Agent、Pi、OpenCode 等智能体框架内完成 5 阶段后训练（监督微调、教师专业化、MOPD 非智能体、MOPD 智能体、智能体强化学习）。模型权重与后训练 checkpoint 已在 Hugging Face 开源，首日即支持 llama.cpp、MLX、vLLM、SGLang、ONNX 五种推理框架，并提供原生、FP8、GGUF、ONNX、MLX-4bit 等格式。 背景：Liquid AI 是一家成立于 2023 年的 MIT 衍生公司，专注端侧高效模型。2026 年 7 月，LFM2-24B-A2B（上一代版本）首次发布，定位"32GB 内存即可本地运行"。本次 LFM2.5-24B-A2B 是该系列的"推理化升级版"：把非推理基模变成推理专用，加入更长的上下文、更大的词表和针对智能体的强化学习。LFM2.5 家族目前跨度从 230M 到 24B-A2B，已完整覆盖端侧场景。 影响：Liquid AI 直接冲击了 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning 等同体量竞品，证明"小激活参数 + 大总参数"路线在工具调用和智能体场景下能够以一半参数反超。OpenRouter、Together.ai、Vast.ai、LM Studio、daily.dev 等多家平台已同步上架，开发者可以在本地、Apple Silicon、AMD Ryzen AI、NVIDIA B300 上同时部署。对企业而言，131K 上下文 + 智能体强化学习让其适合做 RAG、客服、流程自动化等长流程本地代理；对开源生态而言，这是为数不多能在 Apple M5 Max 上以接近 200 tok/s 速度运行的 24B 级推理模型。 总结：Liquid AI 把"小激活、大总参数"路线在端侧推理场景做到了一个新高度——24B 总参数、2B 激活、131K 上下文、184 tok/s 的 M5 Max 速度、5 个推理框架 day-1 支持，使其有望成为 2026 年下半年本地 AI 代理的首选基座。 参考来源： 1. https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b 2. https://www.unite.ai/liquid-ai-releases-open-weight-lfm2-5-24b-a2b-for-on-device-agents/ 3. https://www.liquid.ai/blog/lfm2-5-24b-a2b 4. https://huggingface.co/LiquidAI/LFM2.5-24B-A2B 5. https://docs.liquid.ai/lfm/models/lfm25-24b-a2b 6. https://x.com/liquidai/status/2110055807194931348 7. https://openrouter.ai/liquid/lfm-2.5-24b-a2b 8. https://daily.dev/posts/run-fast-private-agents-on-device-with-lfm2-5-24b-a2b-r5wlevpo4 9. https://superpowerdaily.com/posts/liquid-ai-releases-a-downloadable-reasoning-model-built-for-on-device-agents 10. https://www.orcarouter.ai/blog/lfm2-5-24b-a2b-release