DOCA GPUNetIO 统一 NVIDIA GPU
来自 NVIDIA Developer · 期号 2026-10-07
摘要
GPU 应用越来越需要网络和数据移动像 GPU 控制的操作一样运行，而不是由 CPU 驱动。当 CPU 插在每次网络事务中间，它就成了关键路径上的瓶颈。 NVIDIA DOCA GPUNetIO 解决了这个问题：它让 CUDA kernel 可以直接驱动 Ethernet、RDMA、Verbs 和 DMA 操作，把 CPU 从应用关键路径上移走。 GPUNetIO 现在以两种形式提供：完整的 DOCA SDK 版本，以及一个更轻量的开源 Verbs 实现。开源版可以在运行时检测 DOCA SDK 是否存在，通过 dlopen 调用闭源函数。 多个通信库已经迁移到这个统一基础上：NCCL 从 2.27 版开始集成开源 GPUNetIO Verbs 路径作为后端；NVSHMEM 3.7 用 GPUNetIO 传输层降低了实现复杂度，同时保持了 IBGDA 性能。NVQLink 在 IGX Thor（Blackwell GPU + ConnectX-7）上实现了约 2.6 微秒的最小往返延迟。 原文是技术详解，附了编程模型和 API 示例。