PyTorch 旗下 Ray 成立加速器 SIG

时间：2026年11月2日，PyTorch 官方博客宣布成立 Ray on Accelerators 特别兴趣小组（SIG），博客署名 Zhe Zhang、Mengjin Yan、Ryan O'Leary 与 Richard Liaw，官方 X 账号同日发布该小组的三条工作方向。 地点：开源社区（Ray 现为 PyTorch 基金会托管项目，框架起源于加州大学伯克利分校）。 人物：Zhe Zhang、Mengjin Yan、Ryan O'Leary、Richard Liaw（PyTorch 博客作者、Ray 社区维护者）；参与方还包括硬件厂商、Ray 贡献者与应用开发者。 事件详情：Ray 目前已支持 12 种以上的加速器，从 NVIDIA、AMD 的 GPU 到 TPU、Trainium、Gaudi 等。博客同时点出当下硬件的分化：NVIDIA RTX PRO 6000 Blackwell Server Edition 面向训练、推理、图形与视频的混合负载，HGX B200 及整机平台为更大模型提供更高内存，GB200 NVL72 连接 72 块 NVIDIA Blackwell GPU 面向通信密集的大规模训练与推理，AMD MI355X 同样主打大内存，Google Ironwood TPU 面向超大规模 AI 负载，NVIDIA Groq 3 LPU 面向低延迟推理。新成立的加速器 SIG，目标是把硬件厂商、Ray 贡献者与应用开发者聚到一起，制定厂商中立的加速器支持路线图，让 Ray 工作负载在加速器碎片化的时代继续演进。初始路线分三块。第一块是开发与测试基础设施：维护者与贡献者需要能在受影响的真实设备上验证改动、复现故障、拦截回归，博客特别提到随着智能体化软件工程推进，人类贡献者和编码智能体都需要来自真实硬件与代表性负载的可复现反馈。第二块是硬件感知能力：设备发现要拿到硬件的拓扑与架构，而不只是设备类型和数量，还要与云厂商和部署平台打通，因为某个节点属于哪个机柜或切片只有平台侧知道，同时要在 Ray 面板上提供加速器可见性与相关指标。第三块是网络与传输：为解决张量必须先拷回主机内存、再走主机网络传输的瓶颈，Ray Direct Transport（RDT）让 actor 之间只传张量引用、数据直接在设备之间搬运，并使用 UCX、RDMA 等高性能传输，后续要拓宽 RDT 对加速器、框架与互联的支持面，让跨加速器、跨网络的高速直传稳定可用，同时保持 Ray 熟悉的编程模型。 背景：Ray 诞生于伯克利，十多年前人们说的分布式计算还是 Hadoop、Spark 跑在 CPU 集群上，GPU 刚进入机器学习；如今加速计算成为 AI 部署与训练的前线，硬件能力和形态却越来越专用化。Ray 已进入 PyTorch 基金会，与 PyTorch、vLLM、DeepSpeed 同属一个基金会伞下，框架层的加速器适配不再只是单个社区的事。过去这类适配多由某家硬件厂商或云厂商单独推动，重复劳动多、标准难统一，厂商中立的 SIG 是开源社区常见的解法：把测试基础设施、硬件感知调度、数据传输这三类共性能力抽出来共用。还有一个新变量是编码智能体，随着 AI 参与写代码的比例上升，来自真实硬件的可复现验证反馈从锦上添花变成流水线刚需，这直接抬高了基础设施类工作的优先级。 影响：对做分布式训练与推理的团队，Ray 的加速器路线图开始有专门工作组承接，多硬件适配里的测试、调度、传输三类共性问题有望在框架层收敛，而不是每家云各自造轮子。对硬件厂商来说，加入 SIG 意味着能更早进入框架侧的测试与调度路径，硬件特性比如拓扑感知的调度、设备间直传，更容易被上层作业直接利用。需要看清的是这是一份路线图而不是已交付功能：真实硬件测试基础设施和跨加速器直传都需要生态配合，短期内不会改变现有作业行为。对国内团队来说，如果集群里混编 GPU、国产加速卡与 TPU，厂商中立的适配层思路比绑定单一厂商更有长期价值。 总结：PyTorch 基金会旗下的 Ray 成立加速器 SIG，把硬件厂商、框架贡献者和应用开发者拉到同一张桌子上。目标很具体：让加速器在 Ray 上好用、规模化跑得动、生产环境可靠，初始三条路线分别是真实硬件上的开发测试基础设施、硬件感知调度、设备间直传（Ray Direct Transport 配合 UCX、RDMA）。背后的判断是加速器已经碎片化，GPU、TPU、Trainium、LPU 的内存与互联特性各不相同，框架层不通就只能逐家适配。对开发者而言这是基础设施层面的长期利好，短期则是路线图而非可用功能，实际收益还要看生态后续投入。 参考来源： PyTorch 官方博客《Announcing the Special Interest Group (SIG) for Ray on Accelerators》 https://pytorch.org/blog/announcing-the-special-interest-group-sig-for-ray-on-accelerators/ PyTorch 官方 X 账号发布（SIG 三条工作方向：真实硬件测试、拓扑感知调度、设备间直传） https://x.com/PyTorch/status/2117315895848472748 中文报道《Ray 成立加速器专项小组，覆盖 NVIDIA、AMD GPU 与 TPU》 https://airebao.com/item/52045 英文报道《Announcing the Special Interest Group (SIG) for Ray on Accelerators》 https://dev48.org/en/articles/announcing-the-special-interest-group-sig-for-ray-on-accelerators 英文报道《Anyscale launches SIG for Ray on accelerators》 https://blockchain.news/news/anyscale-launches-sig-for-ray-on-accelerators Ray 官方文档（调度与加速器相关说明） https://docs.ray.io/en/latest/ray-core/scheduling/index.html