哇！是牛来
@niulai
别再买昂贵的显卡了，这个项目把手头闲置的手机、平板、电脑组成一个 AI 计算集群
在GitHub 已斩获 4w+star
它把你所有设备的算力统一成一块虚拟 GPU，iPhone、iPad、Mac、树莓派，只要接在同一个局域网里就行
不用手动配置，自动发现节点，p2p 直连，所有推理都在本地跑
它会根据每台设备的实时性能和网络状况决定怎么切分模型，确保整体推理速度达到最优
有人实测用 4 台 M3 Ultra Mac Studio 跑起了 DeepSeek v3.1 671B，支持 RDMA over Thunderbolt 5 之后多机延迟降了 99%
话题来源 @axichuhai
❤️154 x.com/…↗ 已改写，非原文转载
20 浏览 0 评论
0 反应
