全局连贯性：每个 agent 都对，团队却错了
来自 arXiv · 期号 2026-10-02
摘要
多个 AI agent 各自做出局部正确的决策，合在一起却得到错误的结果。 论文把这个问题定义为「全局连贯性」：失败的不是模型智能，而是共享状态。 作者给出了一个精确的边界条件（Observation-Aliasing Impossibility Theorem）：如果 k 个不可区分的世界需要互斥的动作，那么随机策略的最优成功率只有 1/k——更多推理、角色、消息或采样都无法弥补这个缺失的区分。 然后提出一套运行时语义框架 X = (H, C, G, F; D)，让模型只负责提议，由 harness 持有共享状态并决定是否提交。 九项实验验证了边界：在可控修订基准上，同一前沿模型在事件可见时满分（40/40），事件隐藏时降至 12–17/40（接近随机水平 1/3）；恢复一个权威事实后回到满分。 结论反直觉但严格：局部智能无法替代缺失的全局状态。
深读
导读 这篇论文定义了一个反直觉但严格的问题：多个 AI agent 各自做出局部正确的决策，合在一起却可能得到错误的结果。失败的不是模型智能，而是共享状态。论文给出了精确的数学边界，并提出了一个运行时框架来绕过这一根本限制。对于从事多 agent 系统、agent 安全或协作推理的从业者，这篇论文提供了一个必须理解的理论下限。 关键信息 - 论文提出 Observation-Aliasing Impossibility Theorem：如果 k 个不可区分的世界需要互斥的动作，那么随机策略的最优最坏情况成功率只有 1/k；更多推理、角色、消息或采样都无法弥补这个缺失的区分。 - 在可控修订基准上，同一前沿模型在事件可见时满分（40/40），事件隐藏时降至 12–17/40（接近随机水平 1/3）；恢复一个权威事实后回到满分。 - 在 TeamBench 上，普通团队在 5/5 次运行中超出共享预算，可见的实时计数留下 4/5 次违规，而提交强制执行留下 0/5 次违规。 - 在 tau2-bench Telecom 上，当前状态检查在静默回滚后得分为 0.07，而 harness 得分为 1.00。 - 论文提出的运行时语义框架 X = (H, C, G, F; D) 中，模型只负责提议，由 harness 持有共享状态并决定是否提交。 逐节讲解 问题定义：全局连贯性 论文将「多个 agent 各自做出局部正确的决策，合在一起却得到错误的结果」定义为全局连贯性问题。作者强调，这不是模型智能的失败，而是共享状态的失败。每个 agent 只能看到自己的局部观测，无法区分那些产生相同观测但需要不同动作的世界状态。 精确边界：Observation-Aliasing Impossibility Theorem 这是论文的核心理论贡献。定理指出：一个策略能保证有效动作，当且仅当所有产生相同观测的世界共享一个可接受的动作。如果 k 个不可区分的世界需要互斥的动作，那么随机策略的最优最坏情况成功率只有 1/k。更强的模型可以在其上下文内更好地推理，但它无法看到上下文之外的东西。这意味着，仅靠增加推理深度、角色分工、消息传递或采样次数，都无法弥补缺失的区分。 解决方案：局部到全局的运行时语义 论文提出了一套形式化框架 X = (H, C, G, F; D)： - 拓扑 H 记录重叠的作用域； - 范畴 C 管理改变状态的动作； - 群胚 G 保留可逆的翻译； - 层 F 测试局部视图是否能粘合为一个世界； - 最小历史 D 只保留那些改变合法未来的区分。 核心思想是：模型只负责提议，由 harness 持有共享状态并决定是否提交。这相当于将全局状态的控制权从 agent 内部转移到系统层面。 实验验证 论文通过九项研究验证了失败及其边界。在可控修订基准上，同一前沿模型在事件…