4张9岁V100 NVLink集群跑赢DGX Spark

时间：2026-10-13（中文社区报道日，10 月 12 日 YouTube 实测视频发布日） 地点：YouTube 频道 Jun Yamog 个人实验室 + Reddit r/LocalLLM 社区 + NVIDIA 开发者论坛 人物：YouTuber Jun Yamog（视频作者）、Reddit 社区工程师、NVIDIA DGX Spark 平台官方 事件详情： YouTube 频道 Jun Yamog 于 10 月 12 日发布实测视频：将 4 张 2017 年发布的英伟达 Tesla V100 通过 NVLink 载板互联，在 4-bit 量化的 Qwen3.8-Flash-Next 推理测试中，长提示（long prompt）场景相对 2 台 DGX Spark 集群快 40%、相对 M5 Ultra Mac Studio 快 230%；短提示场景对 DGX Spark 保持 40% 领先，对 M5 Ultra 快 163%；短提示 Token 生成速度达到 100.6 tok/s，较 DGX Spark 集群快 121%。 背景： Tesla V100 是英伟达 2017 年基于 Volta 架构发布的数据中心 GPU，32GB 版本配 HBM2 显存、900GB/s 显存带宽；此次测试所用 NVLink 载板提供 300GB/s 总带宽与 6 条 NVLink 2.0 连接，并通过改装 NVIDIA A100 散热器解决 4 颗 V100 各约 300W 的散热问题。对比对象为配备 128GB LPDDR5X 统一内存的 DGX Spark（GB10 平台 121GB 可见）以及搭载 M5 Ultra 的 Mac Studio。Qwen3.8-Flash-Next 是一款 176.94B 总参数 MoE 模型，激活参数约 6B/token，被开发者认为是 Qwen4 架构的预览版。 影响： 该基准测试显示，在特定长上下文推理负载中，9 年前发布的 Volta 旗舰 GPU 仍能凭借 NVLink 高带宽互连与 Qwen 路线下的低比特量化，跑赢英伟达自研最新的紧凑型 AI 工作站 DGX Spark，对消费级推理硬件的"性能天花板"叙事构成挑战，也给 AI 推理侧的硬件代际更替路径提供了一个高性价比参照。 总结： 4 张 V100 + NVLink + Qwen3.8-Flash-Next 4-bit 量化的组合在 YouTuber 个人实验室里击败了 2 台英伟达最新 DGX Spark，提示旧款数据中心卡在量化模型推理场景下仍有可观的吞吐能力。 参考来源： 1. https://www.ithome.com/1/012/165.htm 2. https://wccftech.com/nvidia-tesla-v100-inference-m5-ultra-dgx-spark-ai-benchmarks/ 3. https://forums.developer.nvidia.com/t/single-dgx-spark-qwen-3-8-flash-next-at-43tok-sec-in-coding/381859 4. https://blog.kubesimplify.com/running-qwen3-8-flash-next-on-dgx-spark-and-rtx-pro-6000 5. https://madeye.github.io/qwen38-flash-next-on-dgx-spark/ 6. https://www.reddit.com/r/LocalLLM/comments/1w9cfa3/quick_bench_report_qwen38_flash_next_on_2xv100/ 7. https://github.com/MiaAI-Lab/Qwen3.8-Flash-Next-Dual-DGX-Sparks