Gemini 联合负责人谈世界模型与 RL 前沿
来自 Unsupervised Learning · 期号 2026-05-22
摘要
Google DeepMind 研究副总裁、Gemini 联合负责人 Oriol Vinyals 在 I/O 大会后接受访谈,详解了 Google 在 AI 前沿的几个关键押注。 他认为世界模型是通往 AGI 的独特路径,Google 对此有长期投入。视频和图像的“GPT 时刻”尚未到来,但一旦出现,影响将不亚于文本领域。 关于 agent,他主张系统和模型必须联合优化,而 scaffolding(脚手架代码)最终将由模型自己编写。 在记忆机制上,他基于认知神经科学背景提出,文件系统式的非参数化记忆比把记忆塞进权重更实用。 RL 的局限在于 LLM 是数据受限的,而游戏 RL 从未遇到这个问题。但训练在数学和代码等狭窄领域上的 RL 能力,会出人意料地泛化到其他任务。 他相信 AGI 在某种有意义的层面上可能已经到来,只是目标一直在移动。
深读
导读 原文信息有限,以下基于节目简介。Google DeepMind 研究副总裁、Gemini 联合负责人 Oriol Vinyals 在 I/O 大会后接受访谈,阐述了 Google 在 AI 前沿的几个关键押注:世界模型作为通往 AGI 的路径、agent 系统与模型的联合优化、以及 RL 在数据受限下的泛化能力。读完能了解 Google 内部对世界模型、记忆机制和 AGI 现状的真实判断。 关键信息 - Oriol Vinyals 是 Google DeepMind 研究副总裁及 Gemini 项目联合负责人。 - 他认为视频和图像的“GPT 时刻”尚未到来,但一旦出现,其影响将不亚于文本领域。 - Vinyals 主张 agent 的 scaffolding(脚手架代码)最终将由模型自己编写。 - 他基于认知神经科学背景提出,文件系统式的非参数化记忆比把记忆塞进权重更实用。 - 他认为 LLM 是数据受限的,这与游戏 RL 从未遇到数据限制的情况不同。 - Vinyals 相信 AGI 在某种有意义的层面上可能已经到来,只是目标一直在移动。 逐节讲解 世界模型与视频的“GPT 时刻” Vinyals 解释了 Google 为何独特地押注世界模型作为通往 AGI 的路径。他认为视频和图像领域尚未出现类似文本领域的“GPT 时刻”——即一个模型在足够数据和规模下展现出惊人的涌现能力。但他预测,一旦这个时刻到来,其影响将不亚于文本领域。世界模型与机器人技术和模拟紧密相关,是 Google 长期投入的方向。 Agent 系统与 Scaffolding 关于 agent,Vinyals 主张系统和模型必须联合优化,不能分开设计。他认为 scaffolding(即编排 agent 行为的脚手架代码)最终将由模型自己编写,这是“苦涩的教训”在 agent 领域的体现,手动设计的规则终将被学习到的行为取代。 记忆机制与持续学习 Vinyals 基于其认知神经科学背景,讨论了模型中的记忆机制。他认为在服务规模下,文件系统式的非参数化记忆(即把记忆存储在外部,而非模型权重中)比把记忆直接塞进权重更实用。这为持续学习提供了一条更可行的工程路径。 RL 的局限与泛化 Vinyals 指出当前 RL 的一个关键局限:LLM 是数据受限的,而游戏 RL 从未遇到这个问题,游戏可以无限生成数据。但他强调,在数学和代码等狭窄领域上训练的 RL 能力,会出人意料地泛化到其他任务。他认为后训练阶段的 RL 仍是一片蓝海。 AGI 的现状与目标移动 Vinyals 认为 AGI 在某种有意义的层面上可能已经到来,只是目标一直在移动,每当模型达到一个里程碑,人们对 AGI 的定义就会提高。他还讨论了 Google 内部的独特优势,包括 TPU 的协同设计、端到端的收入稳定性,以及 Brai…