YouTube 频道 Jun Yamog 于 10 月 12 日发布测试视频，将四张英伟达 Tesla V100 数据中心 GPU 安装于 NVLink 载板组成推理集群，在 4-bit 量化的 Qwen3.8-Flash-Next 模型基准测试中，长提示处理速度较两台 DGX Spark 集群快 40％，较搭载 M5 Ultra 芯片的 Mac Studio 快 230％。
Tesla V100 是英伟达于 2017 年推出的数据中心 GPU，基于 Volta 架构，常用于 AI 训练与推理场景。其 32GB 版本配备 HBM2 显存，显存带宽达 900GB/s，可支持大模型参数与数据的快速读取。此次测试使用的 NVLink 载板提供 300GB/s 互联带宽，配备 6 条 NVLink 2.0 连接。NVLink 是英伟达的 GPU 高速互联技术，用于在多颗 GPU 之间直接传输数据，相比通过 PCIe 通信可降低互联瓶颈，常用于多 GPU 服务器和 AI 计算集群。
为容纳四颗独立 GPU，测试者对 NVIDIA A100 散热器进行了改装，使其可散发每颗 V100 约 300W 的功耗，并通过 PCIe x8 接口连接载板。对比对象包括两台配备 128GB LPDDR5X 统一内存的 DGX Spark，以及配备 M5 Ultra 芯片的 Mac Studio 设备。
在长提示处理测试中，四颗 V100 较 DGX Spark 集群快 40％，较 M5 Ultra 快 230％。在短提示处理测试中，V100 集群较 DGX Spark 保持 40％ 的速度优势，较 M5 Ultra 快 163％。在短提示 Token 生成测试中，四颗 V100 达到 100.6 tok/s，较两台 DGX Spark 快 121％；M5 Ultra 的成绩为 44.5 tok/s。
测试者指出，与 Apple Silicon 之间的巨大差距可能部分源于软件优化不足。这一结果也显示，旧款数据中心 GPU 在特定推理负载中仍具备较高吞吐能力。
从行业视角看，该测试提供了关于存量数据中心 GPU 再利用价值的参考数据。Tesla V100 虽已发布九年，但在 NVLink 互联与 HBM2 显存带宽的支持下，多卡集群在长提示与短提示推理场景中仍可维持较高吞吐。对于预算有限、需要部署本地推理集群的企业而言，二手 V100 配合 NVLink 载板的方案在特定负载下具备一定性价比，但其功耗、散热与软件生态适配仍是实际部署中需要权衡的因素。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
