后训练让模型在编程竞赛拿金牌
来自 arXiv · 期号 2026-09-03
摘要
国际信息学奥林匹克竞赛（IOI）是编程推理的终极考场。 NVIDIA 团队用 22,000 道精选题目，对 Nemotron 模型做了后训练：30B 参数的 Nano 版走 SFT + RL，550B 的 Ultra 版只走 SFT。 在 IOI 2025 题目上，Nano 从 130 分涨到 291 分，加上测试时搜索策略 GenCorrect 后冲到 468 分，超过金牌线 438.3。Ultra 达到 502 分。 IOI 2026 的正式比赛中，Ultra 系统在人类选手同等限制下拿到 535.4/600，超过金牌线 361.12 和人类最高分 498.27。这是第一个在 IOI 题目上超过人类冠军的 AI。 论文附了训练数据构造和 GenCorrect 的完整方案。
深读
导读 这是 NVIDIA 团队发布的一篇论文，首次展示了 AI 系统在 IOI（国际信息学奥林匹克竞赛）题目上超过人类冠军选手。论文的核心贡献在于一套完整的后训练流程：用 22,000 道精选题目做监督微调和强化学习，外加一个名为 GenCorrect 的测试时搜索策略。对于关注 LLM 推理能力上限和竞赛编程的人来说，这是目前最硬核的成绩单。 关键信息 - 模型基于 Nemotron 系列：Nano-CC 版本 30B 参数（激活 3B），Ultra-CC 版本 550B 参数（激活 55B）。 - 训练数据为 22,000 道精选编程竞赛题目，Nano 版走 SFT + RL 两阶段，Ultra 版只做 SFT。 - 在 IOI 2025 题目上，Nano-CC 从基线 130 分提升到后训练后的 291 分，加上 GenCorrect 后达到 468 分，超过金牌线 438.3 分；Ultra-CC 达到 502 分。 - 在 IOI 2026 正式比赛中，Ultra-CC 系统在人类选手同等限制下（时间、网络访问、提交次数）拿到 535.4/600 分，超过金牌线 361.12 分和人类最高分 498.27 分。 - 论文声称这是第一个在 IOI 题目上超过人类最高分选手的 AI 系统。 逐节讲解 问题设定与整体方案 论文将国际编程竞赛（IOI、ICPC）定位为 LLM 推理能力的终极测试场景。作者提出的方案是一条完整的端到端后训练流水线：先大规模筛选和构造训练题目（22,000 道），再生成合成推理轨迹，然后依次进行监督微调（SFT）和强化学习（RL）。值得注意的是，550B 参数的 Ultra 版只用了 SFT，没有做 RL，而 30B 的 Nano 版两个阶段都做了。 GenCorrect：测试时搜索策略 GenCorrect 是一种反馈驱动的测试时计算策略。它的工作方式是：迭代地生成多个候选解法，对每个解法进行评估，然后根据反馈结果对解法进行精炼。这相当于在推理阶段用更多计算量换取更高质量的输出。论文在 IOI 2025 题目上展示了它的效果：Nano-CC 加上 GenCorrect 后从 291 分跳到 468 分，提升超过 60%。 IOI 2026 正式比赛结果 基于 IOI 2025 上的结果，作者构建了一个专门针对竞赛场景的 Ultra-CC 系统，并在 IOI 2026 的正式比赛中进行了前瞻性评估。系统在人类选手完全相同的约束下运行（同样的时间限制、允许访问互联网、同样的提交次数限制），最终得分 535.4/600，不仅大幅超过金牌线 361.12，也超过了人类最高分选手的 498.27 分。论文据此宣称这是第一个在 IOI 题目集上超过人类冠军的 AI 系统。 值得注意 - 论文只有摘要，没有具体的技术细节。GenCorre…