时间:2026-10-04
地点:美国/Reddit 与 GitHub 开源社区
人物:Reddit 用户 u/StayLameBro(Backburner 开源作者)
事件详情:一名开发者用一根 USB-C 线将 iPhone 17 Pro Max 与搭载 M4 Pro 芯片的 24GB 统一内存 MacBook Pro 连接,借助自研开源软件 Backburner(已在 GitHub 开源),让两台设备协同运行通义千问 Qwen3.8-27B 大模型。结果显示,模型"预填充"阶段速度最高提升 44%。具体来看,在 16K 上下文窗口下,每秒 token 数从 109 提升到 157;在 8K 上下文下从 132 提升到 177,提升 35%;32K 上下文下从 101 提升到 130,提升 29%。
背景:AI 大模型对显存与系统内存需求极高,但 24GB 统一内存的 M4 Pro MacBook Pro 跑 270 亿参数级别的 Qwen3.8-27B 模型时,受限于内存容量与上下文窗口大小。开发者于是探索"分层切分"思路——把模型 64 层神经网络拆成两半,MacBook Pro 负责处理每个 256 token 批次中的第 1-40 层,再把激活值通过 10Gbps USB-C 接口传输至 iPhone,iPhone 用 A19 Pro 芯片的 GPU 接管第 41-64 层;与此同时 MacBook Pro 已经开始处理下一批数据,形成流水线并行。当上下文超过 64K 后,iPhone 的工作切换为协助计算旧 KV 缓存页面的注意力,并把每 16K 长度的历史上下文编译为神经网络引擎模型,把 140K 上下文下单个 token 写入耗时从 279 毫秒压缩到 176 毫秒。
影响:这项实验展示了消费级苹果设备在本地 AI 计算上的潜力,让普通开发者不必购买专业 AI 工作站也能用现有 Pro 级移动设备跑大模型;同时为"分布式个人 AI 算力"提供了新思路——未来手机可能像内存与 SSD 一样进入"算力短缺"时代。但方案也有局限:iPhone 主要加速"预填充"阶段,64K 上下文以内的文本生成仍由 Mac 单独承担,且 iPhone 长时间高负载会面临发热与电池压力问题。此外,iPhone 18 Pro 系列的 A20 Pro 芯片据称拥有双 16 核神经网络引擎,性能余量有望进一步提升。
总结:开源项目 Backburner 把 iPhone 变成 MacBook Pro 的"第二块 GPU",在 27B 模型推理的预填充阶段实现最高 44% 提速,为消费级苹果设备本地大模型运行打开了新的可能,也预示着个人 AI 算力分布化的趋势。
参考来源:
1. https://m.ithome.com/html/1009586.htm - IT之家《苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%》
2. https://wccftech.com/iphone-17-pro-max-m4-pro-macbook-pro-44-percent-faster-prefill-27b-ai-model/ - Wccftech 英文报道
3. https://www.163.com/dy/article/L8D59IGP0556OH4N.html - 网易科技:iPhone 17 Pro Max 搭档 M4 Pro MacBook,27B 大模型提速 44%
4. https://post.smzdm.com/p/arzr90wq - 什么值得买《苹果生态隐藏彩蛋:iPhone 17 Pro Max 竟是大模型推理加速器》
5. https://www.cnbeta.com.tw/articles/tech/1580600.htm - cnBeta《开发者将 iPhone 17 Pro Max 变成 MacBook Pro 的第二块 GPU》
6. https://traictory.com/news/2026-10-04-iphone-second-gpu-backburner - Traictory 英文技术深度报道
7. https://wisevoter.com/world/us/2026/10/03/iphone-17-pro-max-boosts-ai-speeds - Wisevoter 英文分析
8. https://www.toutiao.com/a7692700286946722323 - 今日头条《实测 M4 Pro MacBook Pro 外接 iPhone17 Pro Max AI 预填充提速 44%》
9. https://www.reddit.com/r/LocalLLaMA/comments/1nlu3cd/the_iphone_17_pro_can_run_llms_fast/ - Reddit r/LocalLLaMA 原帖讨论
10. https://github.com/StayLameBro/backburner - Backburner 开源项目 GitHub 仓库(开发者提供)







