NVIDIA Topograph 拓扑感知调度
来自 NVIDIA Developer · 期号 2026-09-23
摘要
AI 工厂的 GPU 集群里，训练和推理任务需要频繁交换数据。如果调度器把紧密耦合的 workload 分散到不同网络域，数据就要跨共享链路传输，增加延迟、降低吞吐。 NVIDIA Topograph 解决的是这个问题。它从云 API 或本地网络设备里发现集群的拓扑结构，归一化成通用模型，然后以 Kubernetes 节点标签、Slurm 配置或 Slinky ConfigMap 的格式发布给调度器。调度器拿到当前拓扑后，就能把任务放到最靠近的 GPU 域里。 Topograph 是开源工具，支持 Google Cloud、Lambda、Nebius、Nscale、Oracle Cloud 等云厂商，以及 InfiniBand、Spectrum-X、Multi-Node NVLink 等本地网络。集群变化时它会自动重新生成拓扑视图，不需要手动维护。 部署方式：Kubernetes 上走 Helm，Slurm 上走原生包。还提供了模拟工具，可以在没有生产硬件的情况下测试。