苹果公开端侧AI算力梯队 Mac集群跑1.6万亿参数

时间：2026年9月25日 地点：美国盐湖城 Jamf 用户大会（JNUC 2026），覆盖 Apple 全产品线端侧 AI 硬件梯队 人物： - Jamf 公司（IT 管理软件厂商，JNUC 主办方） - @aaronp613（X 平台科技博主，首发端侧 AI 矩阵图表） - Johny Srouji（Apple 硬件技术高级副总裁，8 月 M5 Ultra Mac Studio 发布时强调本地 AI 价值） - Apple IT 管理部门（JNUC "IT 行业最新动态"环节演讲方） - Apple 设备管理生态合作方 事件详情：2026 年 9 月 25 日，Apple 在 Jamf 用户大会（JNUC）的"IT 行业最新动态"环节，首次系统性公开全产品线端侧 AI 推理能力对比图表。图表显示，从 iPhone、iPad 到 Mac Studio 集群，Apple 通过统一内存架构（UMA）将端侧 AI 推理参数上限从 iPhone 的 140 亿一路扩展至 Mac Studio 集群的 1.6 万亿参数，覆盖从日常 Siri 文字润色到工作站级科研算力的完整硬件梯队。具体分级为：iPhone / iPad 配备 16GB 统一内存、76GB/s 内存带宽，最高承载 140 亿激活参数，主打轻量端侧 AI；MacBook Air 为 32GB 内存、153GB/s 带宽，上限 350 亿参数；Mac mini 配备 64GB 内存、307GB/s 带宽，上限 700 亿参数，主打隐私敏感本地任务；MacBook Pro 配备 128GB 内存、614GB/s 带宽，最高 1200 亿参数，面向大型模型与重度创作开发；Mac Studio 工作站为 512GB 内存、1.2TB/s 带宽，最高承载 4800 亿参数；Mac Studio 集群则通过 2TB 统一内存实现 1.6 万亿参数本地推理，承担超大模型的本地训练与推理任务。 背景：Apple 此次披露正值 AI 算力从"云端为王"向"端侧推理"延伸的关键节点。8 月 25 日 Apple 发布 M5 Ultra 版 Mac Studio，配备 512GB 统一内存、1.2TB/s 带宽，9 月 22 日开始交付，10 月底推出 512GB 高配版本。Apple 已演示 4 台 Mac Studio 通过 Thunderbolt 5 + RDMA 联合运行 1 个万亿参数模型，集群推理性能较单台提升 3 倍。硬件主管 Johny Srouji 此前向路透社表示，企业一旦买断设备便无需为每次推理请求支付 token 计费，本地算力的经济性可能优于长期租用云端 GPU。9 月 20 日，IT 之家实测显示 iPhone 18 Pro 运行 270 亿参数 Bonsai 模型时，速度可达 iPhone 17 Pro 的两倍。从 76GB/s 到 1.2TB/s 的带宽跨度超过 15 倍，从 16GB 到 2TB 的内存容量跨度达 128 倍，参数上限差距正是从这两个数字里长出来的。值得注意的是，Apple 把"集群"也纳入了端侧叙事，将端侧 AI 从个人设备扩展到企业级本地推理基础设施。 影响：1）Apple 首次以官方图表形式定义端侧 AI 硬件梯队，为 IT 管理员提供"按内存/带宽分层"的选型参照，选设备升级为选"推理容量"；2）端侧 AI 推理能力跨入"千亿-万亿参数"时代，挑战英伟达在 AI 推理增量市场的话语权；3）开发者将针对不同设备优化模型权重与内存占用，例如 1-bit 量化 Bonsai 模型仅需 4GB 内存即可运行；4）强化 Apple Intelligence 隐私优先叙事，所有数据全程不出设备，无需依赖云端中继；5）Mac Studio 集群的本地训练能力，为影视特效、科研计算、生物医药等高隐私场景提供"买断式 AI 算力"选项，长期可能挤压部分云端推理份额。 总结：Apple 用一张端侧 AI 矩阵图，把从 iPhone 到 Mac Studio 集群的本地 AI 算力梯队一次性摊开。140 亿到 1.6 万亿的参数跨度背后，是统一内存架构带来的"内存即推理容量"设计哲学。当云端推理面临 token 计费和合规风险时，Apple 把端侧 AI 推到了"企业买断设备即可享受本地推理"的新阶段。这场静悄悄的端侧 AI 军备竞赛，标志着 AI 算力竞争从数据中心延伸到桌面和口袋，可能成为 Apple 反击英伟达推理市场地位的关键筹码。 参考来源： 1. IT之家 https://www.ithome.com/1/007/155.htm 2. 凤凰网科技 https://tech.ifeng.com/c/8wi1j9OtUGO 3. 腾讯新闻 IT时代网 https://news.qq.com/rain/a/20260925A080AT00 4. 搜狐 https://www.sohu.com/a/1080859987_122066679 5. 网易《像素与芯片》 https://www.163.com/dy/article/L7MERN8105561FZY.html 6. IT之家 M版 https://m.ithome.com/html/1007155.htm 7. 经济日报 https://money.udn.com/money/story/11162/9714389 8. 纽约大学上海 https://rits.shanghai.nyu.edu/ai/apples-m5-ultra-mac-studio-512gb-of-unified-memory-for-local-ai