Ineffable Intelligence 的超级学习
来自 Training Data · 期号 2026-10-13
摘要
David Silver 在 DeepMind 用人类数据花了两年做出 AlphaGo，去掉人类数据后，AlphaGo Zero 不到两天就超越了前者。 他和 Lasse Espeholt 创立了 Ineffable Intelligence，目标是造一个“超级学习者”——一个从零开始、通过直接经验而非预训练来发现科学、数学和语言的 agent。Silver 认为，基于人类语言的推理是天花板而非地基，通过思维链监控来做对齐已经接近极限，超级智能如何共存的问题应该在模拟中先解决，再接触真实世界。 Espeholt 介绍了背后的 GPU 集群和从 IMPALA、SEED RL 延续下来的 RL 架构。Silver 的预测：一年内看到强证据，三年内实现超级智能。
深读
导读 原文信息有限，以下基于节目简介。这期播客访谈了 Ineffable Intelligence 的两位联合创始人，前 DeepMind 科学家 David Silver 和 Lasse Espeholt。Silver 曾用人类数据花两年做出 AlphaGo，去掉人类数据后 AlphaGo Zero 不到两天就超越了前者。现在他们押注同样的逻辑，试图造出一个从零开始、通过直接经验而非预训练来发现科学、数学和语言的“超级学习者”，并给出了三年内实现超级智能的预测。 关键信息 - David Silver 在 DeepMind 用人类数据花了两年做出 AlphaGo；去掉人类数据后，AlphaGo Zero 不到两天就超越了 AlphaGo。 - Silver 和 Espeholt 创立了 Ineffable Intelligence，目标是构建一个“超级学习者”——一个从零开始、通过直接经验而非预训练来发现科学、数学和语言的 agent。 - Silver 认为，基于人类语言的推理是天花板而非地基，通过思维链监控来做对齐已经接近极限。 - Espeholt 介绍了背后的 GPU 集群以及从 IMPALA 和 SEED RL 延续下来的 RL 架构。 - Silver 的预测：一年内看到强证据，三年内实现超级智能。 逐节讲解 从 AlphaGo 到超级学习者 David Silver 在 DeepMind 的经历是这期节目的核心叙事起点。他用人类数据花了两年做出 AlphaGo，但当他完全去掉人类数据、只靠自对弈做出 AlphaGo Zero 时，后者在不到两天内就超越了前者的水平。这个对比直接引出了他离开 DeepMind 创办 Ineffable Intelligence 的理由：如果去掉人类先验知识能让 AI 在围棋上取得飞跃，同样的逻辑是否适用于更广泛的智能，科学、数学、语言？ 什么是“超级学习者” 两位创始人定义的“超级学习者”是一个从零开始的 agent：它不依赖大规模预训练，而是通过直接经验（direct experience）来发现知识。节目简介中提到了“first contact”这个概念，但未展开具体定义。与当前主流 LLM 不同，LLM 通过海量人类文本学习，而超级学习者试图自己重新发现科学规律、数学定理和语言结构。Silver 认为，人类语言的推理方式是一种天花板而非地基，基于人类语言构建的推理能力有上限，而超级学习者可能突破这个上限。 对齐与共存问题 Silver 在节目中讨论了对齐问题。他认为，通过思维链（chain-of-thought）监控来做对齐已经接近极限。更根本的问题是：当 agent 不再用人类语言思考时，人类如何监控和理解它的决策过程？Silver 的观点是，超级智能如何共存的问题应该在模拟环境中先解决，再接触真实世界…