时间：2026年4月29日
地点：美国
人物：谷歌（Google）首席科学家Jeff Dean团队
事件详情：4月29日，谷歌Jeff Dean团队发布重磅论文，公开革命性分布式训练技术Decoupled DiLoCo。该技术能够利用全球各地的异构硬件进行大规模AI模型训练，且即使当硬件发生故障时系统也不会停止运行。Decoupled DiLoCo将训练集群拆分为多个独立运行的"学习器"，各学习器独立完成计算任务不需要等待其他机器；运行在稳定CPU上的"同步器"负责协调工作，采用"最小法定数"原则，只要达到最低要求节点数量即可启动参数合并，自动跳过故障节点。论文另一位主要作者Arthur Douillard在X上的分享推文获得超260万次浏览。
背景：传统分布式训练面临硬件异构性差、单点故障导致整体停摆等挑战。Jeff Dean提出的Decoupled DiLoCo彻底改变了AI训练"娇气"的局面，使得在不稳定硬件环境下进行大规模弹性分布式预训练成为现实。这是AI预训练领域的重大突破，被业界认为是通往真正大规模弹性训练的关键里程碑。
影响：
- 训练系统可在全球任意地点利用异构硬件进行协作，大幅提升硬件利用效率，降低训练成本
- 故障节点不再导致整体训练中断，系统鲁棒性显著提升，对超大规模AI训练具有重大实用价值
总结：谷歌首席科学家Jeff Dean团队发布的Decoupled DiLoCo技术标志着弹性大规模分布式预训练终于成为现实。该技术通过将训练集群拆分为独立学习器与稳定同步器的创新架构，实现了全球异构硬件协同训练且故障自愈的能力。Arthur Douillard分享获得超260万次浏览，反映出业界对这项突破的极高关注度。这一成果对于未来超大规模AI模型的训练具有重要意义，可显著提升硬件利用效率并降低运维成本。
参考来源：
https://www.sohu.com/a/1014426263_120231872
https://k.sina.com.cn/article_7857201856_1d45362c001904vyj8.html
https://k.sina.com.cn/article_7857201856_1d45362c001904w042.html
https://so.html5.qq.com/page/real/search_news?docid=70000021_4176995ac8315052
