Gemma 4 12B：统一免编码器多模态，端侧部署新可能

导语

2026 年 6 月，Google DeepMind 发布 Gemma 4 12B。最值得关注的不是参数规模，而是架构选择：砍掉独立编码器，用统一嵌入层直接处理文本、图像、音频。这让 12B 模型能在 16GB 内存的笔记本上跑完整多模态能力，Apache 2.0 开源。

核心改动：免编码器统一架构

以前的多模态模型通常需要图像编码器（CLIP/SigLIP）和音频编码器（Whisper）先把模态转成 token，再喂给 LLM。Gemma 4 12B 的做法完全不同：视觉处理用一个 35M 参数的轻量嵌入模块替代完整视觉编码器，LLM 主干直接接管视觉处理。音频处理直接移除音频编码器，将原始音频信号通过波形投影转成 token。总参数量 12B，但编码器只有 35M，剩下的 11.65B 都是智能本身。

硬件门槛与部署方式

官方最低配置：16GB 显存或统一内存，MacBook Air M5 就能跑。官方推荐部署方式：LiteRT-LM（Google AI Edge 团队推出的端侧推理框架）。其他部署路径：Ollama（一行命令）、llama.cpp（Q4_K_M 量化）、MLX（Apple Silicon）。

性能表现

Google 公布的基准测试数据：Gemma 4 12B 在 MMLU 上达到 78.5%，接近 26B MoE 的 80.2%。在多项评测中逼近 26B MoE，而内存占用只有一半。

已知局限

长上下文（>8k）下的检索准确率出现下滑，NIAH 测试表现不理想。统一嵌入层虽然轻量，但在极端复杂的视觉任务上可能不如专用编码器。

结论

Gemma 4 12B 的意义在于：它证明了小模型 + 统一架构在多模态场景下是可行的。对于端侧部署、边缘计算、个人开发者本地运行，12B 是当前性价比最高的选择之一。