企业需要为 AI agent 建立零信任体系
来自 Aaron Levie · 期号 2026-10-11
摘要
Box CEO Aaron Levie 认为，企业需要开始思考管理智能的长期安全方法。 当 agent 执行的任务远超人类时，安全、治理、控制和审计这些工作将变得至关重要。agent 会操作最有价值的数据，做出的决策越来越难以逆向工程，我们需要理解模型替我们决策时的责任与问责机制，还需要限制恶意 agent 的爆炸半径。 “将前沿闭源和开源模型视为内部风险，是构建这种系统的一种方式。不是因为它们必然是恶意的，而是因为任何有足够能力的、能访问重要系统的参与者都可能犯错或被攻破，遏制与控制的架构必须考虑到这一点。” Levie 认为，AI 需要经历类似安全领域的“零信任”时代，这为构建此类系统的企业创造了巨大机会。