英伟达发明ZPPO新方法，让AI小模型像学生跟老师一样向大模型学习

时间：2026年6月19日 地点：美国加利福尼亚州圣克拉拉（英伟达总部） 人物：英伟达（NVIDIA）研究团队 事件详情：英伟达研究团队于2026年6月发表了一项重磅AI研究论文，提出一种名为ZPPO（Zone of Proximal Policy Optimization，近端发展区策略优化）的新方法，专门用于让小型AI模型更高效地向大型AI模型学习。该论文编号为arXiv:2606.18216。研究团队以270亿参数的Qwen3.5大模型作为教师，使用自建的ZPPO-77K多模态数据集（包含约77000道题目）训练Qwen3.5系列学生模型（涵盖0.8B、2B、4B、9B四个参数规模）。实验结果显示，在0.8B参数的小模型上，视觉语言理解能力提升达9.3个百分点；在跨越10个纯语言测试、16个视觉语言测试和5个视频理解测试共31个基准测试的综合评估中，全面超越了此前的对比方法，包括传统的知识蒸馏和强化学习方案。 背景：当前AI领域面临一个核心矛盾，即几乎所有令人印象深刻的AI能力突破都发生在拥有数百亿参数的庞然大物级模型上，但手机、AR眼镜、机器人等终端设备的算力和内存有限，根本无法塞进一个超大规模模型。现有的两大主流训练小模型方法都存在根本缺陷：知识蒸馏方法要求小模型模仿大模型在每个词上的概率分布，对仅有0.8亿到20亿参数的小模型来说相当于让三岁小孩背诵博士论文，结果在训练数据之外的新题上反而退步1.8到2.5个百分点；强化学习方法则会抛弃那些小模型八次尝试全部答错的难题，让最需要帮助的题目被系统丢弃。英伟达团队从苏联心理学家维果茨基的最近发展区理论中汲取灵感，提出把大模型的智慧以题目背景的形式呈现给小模型，让小模型在老师出题但不直接给答案的引导下，独立判断、独立作答。ZPPO设计了两个核心技术组件：BCQ（Binary Candidate-included Question，二元候选问题）将大模型的正确推理和小模型的错误推理匿名压缩后放入题目，让学生必须自己辨别哪个更合理；NCQ（Negative Candidate-included Question，负面候选问题）则把小模型的所有错误尝试摆在它面前，让它看清自己反复在犯的同类错误。此外还设计了提示词回放缓冲区，对小模型正确率低于50%的难题反复练习，每次都用全新的候选组合保持挑战性。 影响： - 推动AI模型小型化部署能力跃升，使手机、AR眼镜、机器人等算力受限设备有望装上接近大模型水平的能力 - 为AI模型训练范式带来新思路，将教育心理学的最近发展区理论引入大模型蒸馏领域，开辟跨学科创新路径 - 显著降低AI应用部署成本，0.8B小模型在视觉语言任务上提升9.3个百分点，等效于让端侧模型获得数倍参数规模的智能 - 加剧AI行业模型小型化趋势，使大厂更倾向于通过小模型+大模型协同部署而非单纯堆参数来推动产品落地 - 为英伟达在AI训练工具链上的领先地位再添筹码，巩固其在AI芯片与算法研究双轮驱动下的核心地位 总结：英伟达此次提出的ZPPO方法并非简单的小模型优化技巧，而是一次对AI训练范式的底层重构。其核心洞见在于：真正有效的学习发生在大模型做对而小模型做错的那些难题上，让大模型的推理作为题目背景而非直接答案出现，既保留了老师的指引作用，又维护了小模型作为独立学习主体的判断能力。实验数据呈现出一个清晰的规律——模型越小提升越大，0.8B提升9.3个百分点，9B仅提升2.8个百分点，这恰好对应维果茨基理论中最近发展区宽度随能力差距增大而扩展的规律。该方法的局限性也同样坦诚：当教师模型也无法解答某道题时，BCQ就失去作用，只能依赖NCQ维持。这一研究为端侧AI、机器人本地化决策、隐私敏感场景的小模型部署打开了新的大门，有望成为2026年下半年AI工程化落地的重要推动力。 参考来源： https://new.qq.com/rain/a/20260619A07CUF00 https://so.html5.qq.com/page/real/search_news?docid=70000021_1226a35162556452 https://arxiv.org/abs/2606.18216 https://news.qq.com/omn/author/8QMd2Hde6IQZvw%3D%3D https://finance.sina.com.cn/7x24/2026-06-19/doc-inicxqkv1567935.shtml