Kimi K3.1 Pro 技术博客：推进开放智能
来自 Kimi Blog · 期号 2024-06-26
摘要
月之暗面发布 Kimi K3.1 Pro，一个 3T 参数级别的开源权重模型，上下文窗口 100 万 token。 在 Terminal-Bench 4.0 上，K3.1 Pro 得分 65.7%，超过 GPT-6 Astra（58.2%），略低于 Claude Opus 5.5（66.4%）。在内部编程评测 Kimi Code Bench 3.0 Long-horizon 上，从 K3 的 55.95% 提升至 61.2%。 3D 建模方面，在 BenchCAD 上得分 92.7%（带工具），接近 Claude Opus 5.5（96.2%）和 GPT-6 Astra（95.9%）。金融领域，在 OfficeQA Pro v2 上达到 64.4 分，幻觉率从 K3 的 23.4% 降至 8.3%。 月之暗面同时发布高速版 K3.1 Pro Highspeed，推理速度提升 2-3 倍。 安全方面，月之暗面在训练阶段移除了网络攻击相关数据，使最终模型的网络攻击能力低于未经限制的版本（81.0% vs 90.5%），并称其能力仍落后于已公开三个月的闭源前沿模型。 全文是技术博客，附有完整 benchmark 表格。
深读
导读 月之暗面发布了其最强开源权重模型 Kimi K3.1 Pro，参数量级为 3T，支持 100 万 token 上下文窗口。该模型在编程、3D 建模、金融分析等多项基准测试中接近或超越了 GPT-6 Astra 和 Claude Opus 5.5 等顶尖闭源模型，同时大幅降低了幻觉率。读完本文可以了解 K3.1 Pro 的核心能力提升、关键 benchmark 成绩，以及月之暗面在开源模型网络安全风险控制上的具体做法。 关键信息 - 参数量级与上下文：3T 参数级别的开源权重模型，上下文窗口为 100 万 token。 - 编程基准：在 Terminal-Bench 4.0 上得分 65.7%，超过 GPT-6 Astra（58.2%），略低于 Claude Opus 5.5（66.4%）。在内部评测 Kimi Code Bench 3.0 Long-horizon 上，从 K3 的 55.95% 提升至 61.2%。 - 3D 建模基准：在 BenchCAD 上使用工具得分 92.7%，接近 Claude Opus 5.5（96.2%）和 GPT-6 Astra（95.9%）。 - 金融基准：在 OfficeQA Pro v2 上达到 64.4 分，为当前最佳。在内部金融建模评测上比 K3 提升 7.2 分，金融研究评测提升 11.6 分，业务运营评测达到 K3 的约 4.2 倍。 - 幻觉率：在内部压力测试 Kimi Hallu Bench Hard 上，声明级幻觉率从 K3 的 23.4% 降至 8.3%。 - 网络安全能力控制：通过识别并移除训练数据中的网络安全相关内容，将模型在内部漏洞研究基准 xdev-bench-hard 上的 pass@3 得分从 90.5%（未做数据清理的 checkpoint）降至 81.0%（最终版 K3.1 Pro）。 - 发布与权重：模型即日起在 Kimi 产品线可用，完整权重将于 2026 年 11 月 4 日前发布。同时发布推理速度提升 2-3 倍的高速版 K3.1 Pro Highspeed。 逐节讲解 模型概览与训练策略 K3.1 Pro 是 Kimi K3 的后训练版本，后训练计算量大幅增加。为了实现数百个下游领域的联合强化学习，团队优化了 RL 框架、长上下文推理、训练效率、沙箱基础设施、任务调度和环境质量检查平台，使得每一份 RL 计算都能带来稳定、可预测的回报。最终结果是 K3.1 Pro 在所有领域都取得了持续提升。 编程能力 K3.1 Pro 覆盖从快速修复到完整项目构建的全范围编程工作，能有效使用 Unity、Unreal Engine、Godot 等游戏引擎。其长周期编程能力通过大规模强化学习得到加强。一个内部测试案例展示了其能力深度：模型基于开源人体解剖模型 human-atlas（包含…