M5 Ultra本地AI实测 单机跑赢DGX Spark

时间：2026年11月10日。 地点：美国。测试由 Tom's Hardware 实验室完成，对照机是一台近似英伟达 DGX Spark 的戴尔 Pro Precision GB10 主机，以及一套双机 GB10 集群。 人物：杰弗里·坎普曼（Jeffrey Kampman，Tom's Hardware 高级图形分析师），本文作者；文中还引用了社区团队 Mia's AI Lab 提供的推理服务配方。 事件详情：Tom's Hardware 高级图形分析师 Jeffrey Kampman 于 11 月 10 日发布深度测试，回应本地 AI 到底该买 Mac Studio 还是 DGX Spark 这个问题。测试机是 256GB 统一内存的 M5 Ultra Mac Studio，售价超过 1.23 万美元；对照机为戴尔 Pro Precision GB10，与 DGX Spark 几乎相同。基准采用 Artificial Analysis 开源的 AA-AgentPerf-Local，用稠密模型 Qwen 3.8 27B，两端都跑 llama.cpp，并开启模型原生的多 token 预测。第一轮结果是单台 M5 Ultra Mac Studio 完成整套 agentic 测试用时不到单台 GB10 的一半，任务能耗还低约 16%，能量延迟积不到 DGX Spark 的一半。但换成真正吃内存的大模型，结论反转：GLM-5.3 Flash（4bit）和 DeepSeek V4.1 Flash 1017（Unsloth 2bit）能装进 Mac Studio 的 256GB，单台 128GB 的 DGX Spark 连这两个量化版本都放不下，只能靠双机集群。跑 DeepSeek V4.1 Flash 1017 时，苹果这边因推理引擎选择有限只能用 llama.cpp，且装不下 DSpark 投机解码模型，最长上下文消化要 10 到 25 分钟，而 Spark 集群用 DSpark 加 TensorFold 配方则不到 5 分钟。换 GLM 5.3 Flash 时情况好转，它的 MTP 不需要单独的草稿模型，换上 TensorFold 引擎和 MLX 专用 4bit 量化后，提示词处理时间逼近 Spark 集群，解码吞吐平均快三倍。价格上，单台 4TB SSD 的戴尔 Pro Precision GB10 已涨到 1 万美元以上，两台 4TB 的 Spark 合计 1.5 万到 2 万美元以上，测试期间联想 ThinkStation PGX 系列一度全部标注为即将上市。 背景：苹果 8 月 25 日推出搭载 M5 Max 与 M5 Ultra 的 Mac Studio，M5 Ultra 起售价 5499 美元，最高可配 512GB 统一内存，内存带宽 1.2TB/s。英伟达官方规格显示，DGX Spark 用 GB10 Grace Blackwell 芯片，最高 128GB 统一内存、273GB/s 内存带宽、最高 4TB NVMe 存储。测试所用的 AA-AgentPerf-Local 是 Artificial Analysis 于 9 月 29 日开源的本地推理测试工具，默认负载为 8 个录制的 agent 任务、168 轮模型调用，上下文增长到约 5.6 万 token，每台机器做的工作量完全相同。硬件差距本身也摆在那里：M5 Ultra 的 80 核 GPU 对 GB10 的 48 个 Blackwell SM，1.2TB/s 对 273GB/s 的内存带宽，接近四倍的解码带宽优势。真正的变量在供应链，DRAM 与 NAND 供应紧张正在推高统一内存整机价格。 影响：对准备花 1 万美元以上搭本地 AI 推理环境的个人和小团队，测试给出的建议分两层：只要单机性能、能接受模型和推理引擎支持面更窄，Mac Studio 是划算的；要跑 DeepSeek V4.1 Flash 这类大模型，双 Spark 集群更稳妥。苹果阵营真正的短板在软件，TensorFold 已能服务 GLM 5.3 Flash，但还完全不支持 DeepSeek，MLX 生态的成熟度和社区配方的迭代速度仍落后于英伟达阵营。供货节奏也是决策变量，Mac Studio 交期已排到 2027 年 2 月，512GB 版本还要再等 13 到 15 周。 总结：这轮深测的结论是分层的：单台 M5 Ultra Mac Studio 在 agentic 基准上完胜单台 DGX Spark，还更省电；但要真正用满 256GB 内存去跑头部开源大模型，双 Spark 集群仍是当下的答案。对本地 AI 选型最有价值的提醒不是跑分本身，而是能不能跑起来取决于推理引擎配方，而不只是硬件。加上单机 1.23 万美元的 Mac Studio 已逼近 1 万美元起的 GB10、双 Spark 要 1.5 万到 2 万美元以上，且内存和闪存涨价趋势还在继续，这个窗口正在收窄。 常见问题： 问：DGX Spark 和 Mac Studio 跑本地大模型哪个好？ 答：单机 agentic 性能 Mac Studio 更快更省电；跑 DeepSeek V4.1 Flash 要双 Spark 集群。 问：M5 Ultra Mac Studio 256GB 和 512GB 怎么选？ 答：测试用 256GB 配置，价格超 1.23 万美元；512GB 版还要等 13 到 15 周。 参考来源： Tom's Hardware 深度测试原文 https://www.tomshardware.com/tech-industry/artificial-intelligence/going-deep-on-local-ai-performance-with-apples-mac-studio-with-m5-ultra-inference-engine-recipes-mandatory-for-bigger-models-as-mlx-stack-matures Artificial Analysis：AA-AgentPerf-Local 本地推理基准说明 https://artificialanalysis.ai/articles/aa-agentperf-local Artificial Analysis 开源项目 aa-agentperf-local https://github.com/ArtificialAnalysis/aa-agentperf-local Tom's Hardware：苹果 Mac Studio M5 Ultra 评测 https://www.tomshardware.com/desktops/mini-pcs/apple-mac-studio-m5-ultra-review 苹果官方 Mac Studio 技术规格 https://www.apple.com/mac-studio/specs/ 苹果官方新闻稿：推出搭载 M5 Max 与 M5 Ultra 的 Mac Studio https://www.apple.com/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/ 英伟达官方 DGX Spark 规格页 https://www.nvidia.com/en-us/products/workstations/dgx-spark/ Context Studios：Mac Studio M5 Ultra 本地 AI 基准与成本实测 https://www.contextstudios.ai/blog/mac-studio-m5-ultra-local-ai-guide