多 agent 社会需要社会约束
来自 arXiv · 期号 2026-09-16
摘要
多个 AI agent 跨信任边界协作时，即使每个 agent 本身诚实且有能力，现有的通信机制也常常导致合作失败。 恶意 agent 可以利用通信协议中的漏洞（论文称之为“言语”漏洞）来拖延协作、操纵结果或实施其他有害行为。 论文提出，除了每个 agent 管理自身上下文和与主人通信的“个人约束”，多 agent 社会还需要一个“社会约束”层。该层架构分三层：直接阻止某些类型的失败、运行时检测无效消息、以及事后调查与追责。 本文是问题定义与架构提案，未给出完整实现。