Hy3 preview:重建 Hy 模型的第一步
来自 Tencent Hunyuan Research · 期号 2026-04-23
摘要
腾讯混元发布并开源 Hy3 preview,这是一个 295B 参数的 MoE 模型,激活参数 21B,支持三种推理模式以平衡延迟与深度,上下文窗口 256K。 这是混元在 2 月重建预训练与强化学习基础设施后训练的第一个模型。团队同时确立了三条原则:系统性能力(不追单项指标)、真实评估(用最新考试与内部任务替代可刷榜的公开基准)、成本效率(通过模型与推理栈协同设计降低任务成本)。 Hy3 preview 在复杂推理、指令遵循、上下文学习、编程与 agent 任务上均有显著提升。在 SWE-bench Verified、Terminal-Bench 2.0 等编程 agent 基准以及 BrowseComp、WideSearch 等搜索 agent 基准上取得有竞争力的分数。内部评测集 Hy-Backend、Hy-Vibe Bench、Hy-SWE Max 上,其表现也优于其他开源模型。 与元宝团队合作,团队使用用户反馈奖励建模(URM)进行 RLHF 微调,在 A/B 测试中用户活跃度较前代明显提升。
深读
导读 腾讯混元发布并开源了 Hy3 preview,这是一个 295B 参数的 MoE 模型,也是其在 2 月重建预训练与强化学习基础设施后训练的第一个模型。该模型在复杂推理、编程 agent 和搜索 agent 等任务上取得了有竞争力的成绩,同时通过模型与推理栈的协同设计显著降低了成本。如果你关注开源大模型的实用能力、成本效率以及 agent 场景的真实表现,这篇文章值得一读。 关键信息 - Hy3 preview 是一个 295B 参数的 MoE 模型,激活参数为 21B,支持三种推理模式,上下文窗口为 256K。 - 在编程 agent 基准 SWE-bench Verified 和 Terminal-Bench 2.0,以及搜索 agent 基准 BrowseComp 和 WideSearch 上取得了有竞争力的分数。 - 内部评测集 Hy-Backend(后端任务)、Hy-Vibe Bench(真实用户开发工作流)和 Hy-SWE Max 上,表现优于其他开源模型。 - 在清华大学求真书院 2026 年春季数学博士资格考试和中国高中生物奥林匹克竞赛(CHSBO 2025)中取得了优异成绩。 - 通过用户反馈奖励建模(URM)和 RLHF 微调,在元宝的 A/B 测试中用户活跃度较上一代明显提升。 - 个人版 Token 计划起售价为 28 元/月。 逐节讲解 重建基础设施与三条原则 2026 年 2 月,混元重建了预训练和强化学习基础设施,并确立了三条原则:系统性能力(不追单项指标,追求推理、长上下文、指令遵循、对话、编程和工具使用的无缝整合)、真实评估(用最新考试、人工评估、产品测试和内部任务替代可刷榜的公开基准)、成本效率(通过模型架构与推理栈的协同设计降低任务成本)。Hy3 preview 是这套新基础设施上训练的第一个模型。 STEM 与推理 Hy3 preview 在 FrontierScience-Olympiad 和 IMOAnswerBench 等具有挑战性的 STEM 基准上表现良好,并在清华大学求真书院 2026 年春季数学博士资格考试和中国高中生物奥林匹克竞赛(CHSBO 2025)中取得了优异成绩,展示了可泛化的推理能力。 上下文学习与指令遵循 混元从自身业务场景构建了 CL-bench 和 CL-bench Life 来测量上下文学习能力。文章给出了一个具体案例:Hy3 preview 能从会议纪要中提取隐含的开始日期、工作日规则、请假和加班要求,并整合成正确的排期表,而上一代 Hy2 在项目开始日期和休假安排上都出现了错误。 编程与 Agent 编程和 agent 任务提升最大。Hy3 preview 在 SWE-bench Verified、Terminal-Bench 2.0 等编程 agent 基准,以及 Brow…