用 NVIDIA GPUDirect Storage 把
来自 NVIDIA Developer · 期号 2026-10-23
摘要
GPU 应用处理的数据集越来越大，从存储到 GPU 内存的 I/O 成了瓶颈。NVIDIA GPUDirect Storage（GDS）让数据绕过 CPU 内存直接进入 GPU，但它的底层接口是 C 语言。 KvikIO 是 GDS 的 Python 和 C++ 封装，提供高层 API。教程演示了完整流程：安装、检查配置、把 1 GiB 文件读进 GPU 缓冲区、用 cuFile 统计确认走的是加速路径还是兼容路径。 KvikIO 和 cuFile 各自独立决定路径：KvikIO 选是否调用 cuFile，cuFile 再选是否走 nvidia-fs 内核模块。通过 KVIKIO_COMPAT_MODE 和 cufile.json 可以控制这两层的行为。 本文是使用详解，附了完整的 Python 示例代码。