DiffusionGemma：文本生成速度 4x 加速，开源方案

导语

自回归文本生成是当前 LLM 的主流范式，但它的速度瓶颈很明显：必须一个 token 一个 token 地生成。Google 最近发布的 DiffusionGemma 尝试用扩散模型做文本生成，把速度提升了 4 倍，而且完全开源。

核心思路：扩散模型做文本生成

扩散模型在图像生成领域已经成熟（Stable Diffusion），但文本生成一直被认为是”不兼容”的。DiffusionGemma 的关键突破：

• 连续 token 化：把离散的文本 token 映射到连续空间，让扩散模型可以操作。
• 并行去噪：一次去噪步骤可以同时预测多个 token，不需要等前一个生成完。
• 知识蒸馏：用自回归模型 teacher 蒸馏扩散模型 student，保留生成质量的同时提升速度。

性能数据

官方公布的基准测试：在相同质量下，DiffusionGemma 的生成速度是自回归模型的 4 倍。在需要长文本生成的场景（摘要、翻译、代码生成）中，体感提升更明显。

局限与挑战

• 扩散模型的可控性不如自回归模型，”指定生成格式”的难度更大。
• 当前开源版本参数量较小，复杂推理任务的表现不如 GPT-5.6 级别模型。
• 社区生态还在早期，没有 Hugging Face 上成熟的 pipeline。

结论

DiffusionGemma 不是一个”替代 GPT”的方案，而是一个”特定场景加速”的工具。如果你需要批量生成文本、对延迟敏感、质量要求不是极端高，它值得关注。对于需要精确控制生成格式的场景，自回归模型仍然是更稳妥的选择。