在 8 台 DGX Spark 上运行前沿 AI 模型
来自 NVIDIA Developer · 期号 2026-10-23
摘要
NVIDIA 在 GTC Berlin 宣布 DGX Spark 正式支持八节点集群，统一内存扩展至 1TB，可本地运行 Z.ai 的完整 GLM 5.3（753B）模型。 集群使用 Spark 优化的集合通信后端 RoCEnante，在交换机拓扑下将八节点的张量并行解码速度提升至单节点的 4.43 倍（无优化时为 3.05 倍）。实测 Qwen3.8-27B（NVFP4）的解码吞吐量从单节点约 12 tokens/s 升至八节点 52 tokens/s。 NeMo Switchyard 可在共享集群上按请求复杂度路由到不同模型池：将简单请求分流至小模型后，聚合吞吐量最高提升至 Qwen 独占配置的 3 倍，工具调用基准得分不变。 用八节点从头预训练一个约 8.97 亿参数的 nanochat 模型，达到 7.79 倍加速和 97.4% 的扩展效率，展示了近线性的训练性能。 原文是技术博客，附有完整的基准数据表和集群搭建指南。