用 AI agent 把 CUDA Tile 操作从
来自 NVIDIA Developer · 期号 2026-09-17
摘要
NVIDIA 的 cuTile Python 和 Triton-TileIR 积累了大量生产级 GPU kernel，但缺少 Rust 版本。 团队在 TileGym 仓库中内置了一个 AI agent skill，自动将 cuTile Python 和 Triton-TileIR kernel 翻译成 cuTile Rust。翻译走的是多 agent 流水线，每步都有机器可检查的判定：分析、设备 kernel、宿主与 FFI 代码、基准测试，最后用 Tile IR diff 验证结构等价。 用这个 skill 移植了全部 24 个公开算子（约 40 个 GPU kernel，涵盖 element-wise、flash-attention decode、MLA、MoE），平均性能达到 cuTile Python 的 99.5%。 核心难点在于 cuTile Python 的 JIT 在调用时隐式特化，而 Rust 要求 kernel 签名里显式声明每个特化。翻译工作就是把隐式的东西全部写出来。 原文给出了完整的翻译示例（softmax kernel 的 Python 与 Rust 对照）和 C-ABI 层的设计说明。