人类通过辩论纠正判断，弱 AI 模型却不能
来自 arXiv · 期号 2026-10-21
摘要
AI 能力超过人类后，人类如何有效监督它们？AI 安全辩论（AI Safety via Debate）的思路是让两个 AI 系统就一个问题正反辩论，由人类或弱模型做裁判。 这篇论文用实验检验了这个想法。结果发现：辩论确实能帮人类裁判纠正先入为主的偏见，比直接咨询一个专家更准。但对弱语言模型来说，辩论不仅没帮助，有时反而让裁判更不准确。 论文还试了多种裁判组合（加权投票、多人讨论等）。加权投票对人类最有效，但对弱模型，增加裁判人数也改善不了群体准确率。 一个值得注意的发现：在对称辩论中，错误的观点可能比正确的更有说服力。这给完全自动化的 AI 训练与管控流程敲了警钟。