Agent 安全需要比能力进化更快
来自 Madhu Guru · 期号 2026-10-11
摘要
Meta 的 Madhu Guru 认为 agent 能力很快会以 RSI 速度进化，但安全（身份、权限、可观测性）必须跑得更快。 他把 agent 的发展方向概括为三个阶段：能力 → 信任 → 自主。第一阶段已经走得很远，现在焦点转向信任——系统是否用对了权限、能否被观测和审计。 过去两年已有大量相关工作，但接下来的挑战会更关键、也更难。
来自 Madhu Guru · 期号 2026-10-11
Meta 的 Madhu Guru 认为 agent 能力很快会以 RSI 速度进化，但安全（身份、权限、可观测性）必须跑得更快。 他把 agent 的发展方向概括为三个阶段：能力 → 信任 → 自主。第一阶段已经走得很远，现在焦点转向信任——系统是否用对了权限、能否被观测和审计。 过去两年已有大量相关工作，但接下来的挑战会更关键、也更难。
本站只做摘要与索引，全部内容版权归原作者所有。