用 NVIDIA NeMo Relay 追踪 Agent
来自 NVIDIA Developer · 期号 2026-10-01
摘要
Agent 可能完成任务却走了低效路径,一次失败的搜索会触发另一次搜索,一次截断的文件读取会导致重复获取相同内容。正确的最终答案掩盖了这些额外步骤,但它们增加了延迟和 token 消耗。 NVIDIA NeMo Relay 为 agent 运行提供统一的观测层,捕获有序的生命周期事件和结构化轨迹。Hermes Agent 原生集成 NeMo Relay,可输出 ATOF 事件流、ATIF 逐步轨迹以及带 OpenInference 标签的 OpenTelemetry spans,供 Arize Phoenix 等工具检查。 教程通过两个实验演示:一个简单的终端工具任务验证了 Hermes 在隔离 Docker 容器中运行脚本并输出 VALUE=42;一个多工具研究任务要求 Hermes 读取旅行记录、搜索网页、在官网确认会议信息、撰写报告并返回 COLT 2026。 Hermes ToolPerf 案例研究展示了如何用相同方法评估 harness 变更:在 108 次运行中比较基线和修复版本,发现 Qwen Coder 30B 恢复了更多任务,但增加了调用次数、数据量和延迟。 本文是使用教程,附有可运行的示例仓库和 Phoenix 配置说明。