Anthropic 与 NVIDIA 合作加强
来自 Claude Blog · 期号 2026-09-28
摘要
NVIDIA 发布了 Open Agent Safety Platform，一个用于加强 AI 安全性的开放软件平台和参考系统设计。Anthropic 参与合作，为 agent 堆栈增加了额外的安全层。 Claude Managed Agents 把凭证放在一个单独的保险库里，agent 自己看不到。NVIDIA 的开源软件 OpenShell 则控制 agent 能执行什么、能访问什么。两者叠加形成多层保护：模型内部有安全限制，模型外部有对 agent 行为的限制，还有审计日志记录每一步。 OpenShell 默认阻止一切，除非有规则允许。它的策略证明器用数学证明来确认 agent 在给定规则下能访问哪些资源。 Managed Agents 现已可用。
深读
导读 NVIDIA 与 Anthropic 联合发布了 Open Agent Safety Platform，一个面向 AI agent 安全性的开放软件平台与参考系统设计。文章详细介绍了其核心组件——Claude Managed Agents 的凭证隔离机制与 NVIDIA OpenShell 的策略执行层，以及两者如何通过多层独立防护来应对 agent 权限失控风险。读完可以理解一套可落地的 agent 安全架构：从模型内部限制到外部行为管控，再到数学证明级别的策略验证。 关键信息 - NVIDIA 发布的 Open Agent Safety Platform 是一个开放软件平台和参考系统设计，Anthropic 参与合作。 - Claude Managed Agents 将凭证（密码和访问密钥）存放在独立保险库中，agent 本身无法看到这些凭证。 - NVIDIA OpenShell 采用默认阻止策略，除非有规则明确允许，否则 agent 无法执行任何操作或访问任何资源。 - OpenShell 的策略证明器（policy prover）使用数学证明来确认 agent 在给定规则下能访问哪些资源。 - Managed Agents 的 agent 循环运行在与沙箱（隔离工作环境）分离的独立服务器上。 - Managed Agents 提供审计轨迹，记录每个 agent 执行的操作，并支持与企业现有访问控制集成。 逐节讲解 背景：agent 权限失控风险 企业正从用 AI 回答问题转向部署 agent 处理跨部门的复杂工作，这些 agent 使用专有数据并代表用户执行操作。随着模型能力提升，agent 的应用场景和访问权限也在扩大。权限越大，企业就越需要控制和审计 agent 的行为。文章的核心问题由此引出：如何在 agent 获得更多访问权限的同时，确保其行为可控。 分层防护架构 防护从模型内部的安全限制开始，Managed Agents 和 OpenShell 在模型外部叠加了额外的行为限制。每一层独立执行其限制规则，防护不依赖任何单一层。各层是模块化的，企业可以根据自身配置选择采用哪些层。 Claude Managed Agents：凭证隔离与审计 Managed Agents 将 agent 循环运行在与沙箱分离的独立服务器上。凭证（密码和访问密钥）存放在独立保险库中，agent 自身看不到这些凭证。此外，Managed Agents 提供审计轨迹，记录每个 agent 的操作，并支持与企业现有的访问控制集成。企业可以自带沙箱配置，并自主选择运行位置和方式。 NVIDIA OpenShell：策略执行与数学证明 OpenShell 是 NVIDIA 的开源安全运行时软件，负责管控和监控所有 AI agent 行为，并对每个动作执行策略。其核心原…