OpenBMB释出MiniCPM-V 4.7 35B-A3B 端侧3GB跑13token/s

时间：2026年10月12日 地点：中国北京 人物：面壁智能/OpenBMB 团队 事件详情：面壁智能与 OpenBMB 正式开源 MiniCPM-V 4.7 多模态大模型，提供 35B-A3B（MoE）与 1B 两款规格。其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 架构，35B 总参数下激活仅约 3B。借助团队自研的 LES（前瞻专家调度）推理加速技术，MiniCPM-V 4.7 35B-A3B 成为业界首个端侧无损流畅运行的开源 MoE 多模态模型——在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 解码速度，在 iPad Pro M4 (16GB) 上更达 17+ token/s。该模型同步支持 iOS、Android、HarmonyOS 三大移动平台以及 Intel、AMD、Arm、瑞芯微、后摩等芯片平台，并开源 Self-Replay Fine-Tuning（自回放微调）方法帮助开发者低成本扩展能力。模型权重以 Apache-2.0 协议开放，对商用场景友好。 背景：过去 MoE 模型动辄需要数十 GB 显存，部署门槛高，无法在手机、平板等移动设备上流畅运行。面壁团队自 2024 年 GPT-4V 级别的 MiniCPM-V 起步，到 2025 年 MiniCPM-V 4.5 全面升级，再到 2026 年 4 月 MiniCPM-o 4.5 全模态实时对话模型，逐步把多模态模型推向端侧。本次 4.7 版本首次实现端侧 MoE 无损流畅运行，呼应了 Apple Intelligence、华为盘古端侧、联发科天玑 AI 等「端侧大模型」的全球趋势。 影响：35B 级 MoE 模型进入 3GB 内存门槛，意味着端侧 AI 进入「无损流畅」MoE 时代。对标同期 Qwen3.5-397B-A17B 等大尺寸 MoE 在 iPhone 17 Pro 上的试跑，MiniCPM-V 4.7 在速度与内存占用上均有显著优势。面壁智能与 OpenBMB 也借此进一步巩固了中国在端侧多模态开源生态的全球领先地位，对苹果、华为、安卓生态的端侧 AI 布局形成正面竞争。 总结：面壁智能再次以 MiniCPM-V 4.7 拉低端侧 MoE 多模态模型的部署门槛，在 3GB 内存的 iPhone 上跑出 13+ token/s，标志着端侧 AI 已正式进入「无损 MoE」时代。 参考来源： - GitHub - OpenBMB/MiniCPM-V 仓库：https://github.com/OpenBMB/MiniCPM-V - MiniCPM-V 4.7 中文文档：https://github.com/OpenBMB/MiniCPM-V/blob/main/docs/minicpm_v4dot7_zh.md - Hugging Face 模型页：https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B - ModelScope 模型页：https://www.modelscope.cn/models/OpenBMB/MiniCPM-V-4.6 - OpenBMB 官方 X 公告：https://x.com/OpenBMB/status/2109694573408866351 - Reddit r/LocalLLaMA 讨论：https://www.reddit.com/r/LocalLLaMA/comments/1x47taj/openbmbminicpmv4735ba3b/ - LES 前瞻专家调度技术：https://github.com/tc-mb/llama.cpp-omni/blob/master/docs/les/lookahead-expert-scheduling.md - 量子位报道：https://www.qbitai.com/2026/10/502770.html - AI HOT TODAY 监控：https://aihottoday.vercel.app/ai-news