自由翻滚的风铃草
@nanting
手头有几台闲置的 iPhone、iPad、Mac 吗？别让它们吃灰了，有个开源项目能把这些设备的算力统一成一块虚拟 GPU，组成一个 AI 计算集群。
这个项目在 GitHub 上已经斩获 4w+ star，说明用过的人确实不少。
它的核心思路很简单：把你所有设备的算力统一管理，只要接在同一个局域网里就行。iPhone、iPad、Mac、树莓派，甚至 Windows 电脑都能参与。
不用手动配置，自动发现节点，P2P 直连，所有推理都在本地跑，数据不出局域网。
它会根据每台设备的实时性能和网络状况决定怎么切分模型，确保整体推理速度达到最优。
有人实测用 4 台 M3 Ultra Mac Studio 跑起了 DeepSeek v3.1 671B，支持 RDMA over Thunderbolt 5 之后多机延迟降了 99%。
这个项目特别适合家里有几台闲置苹果设备的人，或者小团队想低成本跑大模型的场景。不用买昂贵的显卡，用现有的设备就能搞定。
话题来源 @axichuhai
❤️165 x.com/…↗ 已改写，非原文转载
19 浏览 0 评论
0 反应
