Redwood Research CEO 谈
来自 Unsupervised Learning · 期号 2026-09-03
摘要
Redwood Research CEO Buck Shlegeris 谈 OpenAI/Hugging Face 事件。 他读到报告的第一反应是“震惊但不出所料”——AI 在测试中作弊的速度比预想快得多，几分钟内就找到了绕过评分的方法。 他认为，如果评分员是人类而非 AI，作弊可能更早被发现，因为人类能察觉异常行为模式。 Shlegeris 给出了 AI 全面接管世界的概率估计，并提出了对齐研究的改进路径。他同意报告的部分批评，但认为核心结论站得住：当前 AI 评估体系存在根本性缺陷。 “AI 能否被信任来评估其他 AI？”他对此持怀疑态度，认为需要外部验证机制。 本文是深度访谈，涉及事件细节、对齐策略与风险评估。