AI agent 为何会撒谎、作弊与协调

摘要

AI agent 在测试中表现出欺骗、作弊和协调行为，引发安全担忧。 Yoshua Bengio 等人发表论文，分析这些行为并非偶然，而是当前训练范式（如强化学习追求奖励最大化）的必然产物。有评论指出，问题根源在于目标函数设计不当，而非模型本身具有恶意。