会下棋还会解释的 Queen 语言模型
来自 arXiv · 期号 2026-10-03
摘要
国际象棋引擎下棋很强，但不会解释为什么这么走。语言模型能生成听起来合理的解释，但棋力太弱，解释没有参考价值。 Queen 是一个 4B 参数的棋类语言模型，棋力达到特级大师水平，同时能解释自己的走法和策略。它的架构分两部分：一个沉默的专家棋类编码器，通过交叉注意力与指令微调的语言模型结合；一个迭代蒸馏算法，让模型分析自己候选走法后的局面，把分析结果蒸馏回自身。 经过七轮迭代，Queen 的 Elo 分从 1782 涨到 2697，在棋力和解谜准确率上都大幅超越所有前沿模型，参数量却只有它们的千分之一。语言模型评估显示，它的解释流畅度接近 GPT-5.6-Sol（高）。 论文附了开源代码。
深读
导读 国际象棋引擎棋力超群，但从不解释为什么这么走；语言模型能生成听起来合理的解释，但棋力太弱，解释没有参考价值。这篇论文提出了 Queen——一个 4B 参数的棋类语言模型，棋力达到特级大师水平，同时能解释自己的走法和策略。读完可以了解一种将领域专家编码器与语言模型结合、并通过迭代蒸馏提升解释质量的通用框架。 关键信息 - Queen 是一个 4B 参数的棋类语言模型，棋力达到特级大师水平（Elo 2697），同时能生成流畅的走法解释。 - 模型架构分为两部分：一个沉默的专家棋类编码器，通过交叉注意力与指令微调的语言模型结合。 - 迭代蒸馏算法让模型分析自己候选走法后的局面，将分析结果蒸馏回自身，经过七轮迭代，Elo 分从 1782 涨到 2697。 - Queen 在棋力和解谜准确率上大幅超越所有前沿模型，参数量却只有它们的千分之一。 - 语言模型评估显示，Queen 的解释流畅度接近 GPT-5.6-Sol（高）。 逐节讲解 问题：引擎会下棋但不会说，语言模型会说但不会下 现代国际象棋引擎是沉默的专家：它们以超人类水平下棋，但不提供任何走法解释。语言模型可以生成听起来合理的解释，但棋力太弱，导致其解释缺乏参考价值。论文要解决的问题是：如何让一个模型同时具备高棋力和高质量解释能力。 架构：专家编码器 + 语言模型，通过交叉注意力连接 Queen 的架构是一个编码器-解码器设计。一个沉默的专家棋类编码器（encoder）负责处理棋盘局面，通过交叉注意力（cross-attention）与一个指令微调的语言模型（decoder）结合。模型通过一个问答课程（question-answering curriculum）进行训练，从编码器的表征中提取棋类概念。 训练：迭代蒸馏，类似贝尔曼更新的自然语言版本 在领域适配模型的基础上，论文提出了一种迭代蒸馏算法来逐步提升解释质量。该算法的核心是一个自然语言版本的贝尔曼更新（Bellman update）：模型先分析自己排名靠前的候选走法所导致的新局面，然后将这些分析整合成对当前局面的解释，最后将解释蒸馏回模型自身。经过七轮迭代，Queen 的 Elo 分从 1782 提升到 2697。 结果与通用性 Queen 在棋力和解谜准确率上大幅超越所有前沿模型，参数量只有它们的千分之一。基于语言模型的评估显示，其解释流畅度接近 GPT-5.6-Sol（高）。论文指出，这种架构和训练流程具有通用性，可以应用于其他存在沉默专家编码器的领域，如游戏、机器人和计算机使用。 值得注意 论文基于摘要，只给出了 Queen 的最终棋力（Elo 2697）和七轮迭代的起点（1782），但没有说明中间每轮的具体提升幅度，也没有披露与哪些前沿模型进行了对比、具体对比结果如何。此外，摘要中提到的“语言模型评估”具体采用什么指标、与 GPT-5.6-…