AI 可能在 2029 年接管世界
来自 The MAD Podcast with Matt Turck · 期号 2026-08-27
摘要
Redwood Research 首席科学家 Ryan Greenblatt 认为，AI 公司 CEO 们清楚自己在建造远超人类智能的系统，但没有清晰的计划来管理风险。 他预测，到 2029 年，AI 可能从“奖励黑客式的、不靠谱的”状态，转变为“有能力密谋对抗你并想接管世界”的状态，最终导致 AI 接管。 Greenblatt 不认为超级智能本身是坏的，但它是危险的。危险来自三个层面：AI 可能因目标错位而主动接管；AI 驱动的经济可能让权力极度集中，使政变更容易；AI 带来的极快技术进步可能超过人类智慧的增长速度。 他评价近期 Anthropic 暂停 Astra 模型部署和 1200 名内部人士的公开信是“好的步骤”，但认为这些措施仍不足以解决公司间的协调问题。 "It seems pretty likely that you end up with AI takeover as a result of building superintelligence."