Rich Sutton：AI 模型为何停止学习
来自 Training Data · 期号 2026-08-18
摘要
强化学习先驱 Rich Sutton 认为，当前 AI 领域最大的问题是模型停止学习了。 他与学生 Khurram Javed 共同创立 Oak Lab，目标是构建能持续从自身经验中学习的智能体，而不是依赖人类标注的数据。 Sutton 称合成数据是“一个大错误”，并提出了“大世界假说”：真实世界远比任何智能体或模拟器复杂，因此模型必须在部署后持续更新，而非冻结。 他认为 LLM 是“未被预见的科学突破”，但只代表了智能的四分之一。灾难性遗忘是“完全可以治愈的”，Oak Lab 的持续反向传播算法是解药。 前沿实验室无法跟进，是因为它们陷入了局部最优：新范式在变好之前会先变差。 Oak Lab 的五年到十年目标是：一个万亿参数、持续学习、保持连贯、功耗仅 20 瓦的“自维护心智”。 本文是 Sequoia Capital 播客 Training Data 的一期访谈。
深读
导读 原文信息有限，以下基于节目简介。本期节目邀请到强化学习先驱 Rich Sutton 与他的学生 Khurram Javed，讨论他们共同创立的 Oak Lab 及其核心目标：构建能从自身经验持续学习的智能体。Sutton 认为当前 AI 领域在合成数据、灾难性遗忘等问题上走偏了，并提出了自己的解决方案。对于关注 AI 基础研究范式、持续学习与智能本质的从业者，这是一次值得了解的观点碰撞。 关键信息 - Rich Sutton 与 Khurram Javed 共同创立了 Oak Lab，目标是构建能从自身经验持续学习的智能体。 - Sutton 认为合成数据是「一个大错误」，并提出了「大世界假说」：真实世界远比任何模拟器复杂，模型必须在部署后持续更新。 - Sutton 称 LLMs 是意外的科学突破，但只代表了智能的四分之一。 - 他们提出的 continual backprop 算法能「彻底治愈」灾难性遗忘。 - Oak Lab 的五年到十年目标是造出一个万亿参数、持续学习、保持连贯、功耗仅 20 瓦的「自维护大脑」。 - Khurram 解释前沿实验室无法跟进新范式的原因：新范式在变好之前会先变差，大厂困在局部最优里。 逐节讲解 核心观点：领域走偏了 Rich Sutton 认为自己的观点并不激进，反而是整个领域走偏了。他认为所有学习都应该是持续的，领域才需要为「持续学习」起一个新名字。他和 Javed 的核心论点是：合成数据是一个大错误，因为真实世界远比任何模拟器复杂，模型必须在部署后持续更新，而不是在部署时冻结。 LLMs 与智能的本质 Sutton 称 LLMs 是一个意外的科学突破，但认为它们只代表了智能的四分之一。他指出，当前 LLM 助手的权重在部署后不再变化，这并非真正的学习。他对比了动物学习方式：没有动物是通过监督学习来学习的，这暗示了当前主流范式与自然智能的根本差异。 Oak Lab 的解决方案与目标 Sutton 和 Javed 提出的 continual backprop 算法能够「彻底治愈」灾难性遗忘。Oak Lab 的长期目标（五到十年）是构建一个万亿参数、持续学习、保持连贯、功耗仅 20 瓦的「自维护大脑」。Javed 解释了为什么前沿实验室无法跟进这一方向：新范式在变好之前会先变差，大厂因此困在局部最优里。 值得注意 本期节目简介只列出了讨论的话题标题，没有提供任何对话的具体内容。因此，上述讲解仅基于简介中列出的观点和结论，无法还原 Sutton 和 Javed 的完整论证过程、实验细节或具体数据。例如，continual backprop 算法的具体原理、「大世界假说」的完整论证、以及「LLMs 只代表四分之一智能」的划分依据，在简介中均未展开。