保障 AI agent 的未来安全

摘要

AI agent 的安全不能只靠模型本身。 Google DeepMind 提出了一条 AI 控制路线图，把沙箱隔离、访问控制这类传统安全手段，与实时行为监控结合起来，防止 agent 被滥用或越权操作。文章的核心主张是：安全需要分层，不能依赖单一防线。