NVIDIA TensorRT Model
来自 NVIDIA Developer · 期号 2026-09-30
摘要
NVIDIA 发布开源项目 TensorRT Model Connect，一套基于 TensorRT 的 C++ 模型参考实现。 这个项目从一开始就是为 AI 编程 agent 设计的，不只是用 agent 加速已有流程。核心工程选择包括：选可以水平扩展的工作、给 agent 目标和参考证据而不是逐行指令、把不同模型家族的改动隔离开来、让改动容易评估和回退。 验证靠的是人能读懂的证据、agent 自己会改进的测试、可复现的 CI，以及 QA 和开发者之间的对抗式协作。人的判断向上游移动，负责设计系统和设定验收标准。 截至 2026 年 7 月 29 日，项目覆盖了 128 个模型家族，在 NVIDIA GB300 上测试通过。