GLM-5 技术报告

来自 Z.ai Research · 期号 2026-02-22

摘要

智谱 AI 推出 GLM-5,目标是让编程从“氛围编程”转向“智能体工程”。 模型总参数 744B,激活参数 40B,是前代 GLM-4.5 的两倍。训练用了 28.5 万亿 token。 GLM-5 在 Artificial Analysis Intelligence Index v4.0 上得到 50 分,比 GLM-4.7 高 8 分,是首个达到 50 分的开放权重模型。在 LMArena 的文本和代码竞技场中均位列开源模型第一,整体水平与 Claude Opus 4.5 和 Gemini 3 Pro 相当。 技术上的主要创新有四条:引入 DeepSeek 的稀疏注意力(DSA)降低推理成本;构建异步强化学习基础设施,把生成和训练解耦;提出异步 Agent RL 算法,让模型从长周期交互中学习;全面适配国产 GPU 生态,兼容华为昇腾、摩尔线程等七家芯片平台。 论文附了完整的训练流程和消融实验。

深读

导读 智谱 AI 正式发布 GLM-5,一款总参数 744B、激活参数 40B 的 MoE 模型,目标是推动编程范式从“氛围编程”转向“智能体工程”。它在 Artificial Analysis Intelligence Index v4.0 上成为首个达到 50 分的开放权重模型,并在 LMArena 文本与代码竞技场中均位列开源第一,整体水平与 Claude Opus 4.5 和 Gemini 3 Pro 相当。读完本文,你将了解 GLM-5 在架构、训练和后训练上的四项关键创新,以及它在真实世界编程和长程 Agent 任务上的具体表现。 关键信息 - 模型规模:总参数 744B,激活参数 40B,是前代 GLM-4.5(总参数 355B,激活参数 32B)的两倍。训练使用 28.5 万亿 token。 - 基准测试成绩:在 Artificial Analysis Intelligence Index v4.0 上得到 50 分,比 GLM-4.7 高 8 分,是首个达到 50 分的开放权重模型。在 LMArena 文本和代码竞技场中均位列开源模型第一。 - 推理与编程对比:在 SWE-bench Verified 上优于 Gemini 3 Pro;在 SWE-bench Multilingual 上击败 Gemini 3 Pro 和 GPT-5.2(xhigh);在 HLE(含工具)上优于 Claude Opus 4.5 和 Gemini 3 Pro。 - 长程 Agent 任务:在 Vending-Bench 2 上最终账户余额达到 4432 美元,在所有开源模型中最高,逼近 Claude Opus 4.5。 - 四大技术创新:引入 DeepSeek 的稀疏注意力(DSA)降低推理成本;构建异步强化学习基础设施,将生成与训练解耦;提出异步 Agent RL 算法,让模型从长周期交互中学习;全面适配国产 GPU 生态,兼容华为昇腾、摩尔线程等七家芯片平台。 逐节讲解 引言与总体结果 论文开篇点明 GLM-5 的目标:从“氛围编程”(人类提示 AI 写代码)转向“智能体工程”(AI Agent 自主规划、实现和迭代)。模型在 8 个 Agent、推理与编程基准测试上平均比 GLM-4.7 提升约 20%,与 Claude Opus 4.5 和 GPT-5.2(xhigh)相当,优于 Gemini 3 Pro。在 LMArena 上,GLM-5 在文本和代码竞技场均居开源第一。长程任务方面,Vending-Bench 2 要求模型模拟经营自动售货机一年,GLM-5 最终余额 4432 美元,开源最高;内部评测 CC-Bench-V2 显示其在前端、后端及长程任务上均显著超越 GLM-4.7。 预训练:架构与数据 GLM-5 的架构核心是 256 个专家的…

读原文

本站只做摘要与索引,全部内容版权归原作者所有。