Tencent Hunyuan Research
Tencent Hunyuan Research 的条目时间线。
时间线
- 更大批次何时帮助扩展LLM强化学习 (2026-09-22 · Tencent Hunyuan Research)
研究发现，更大批次加速LLM RL训练的条件是吞吐量增益超过样本成本增加（r_q>r_N）。通过重调学习率可建立近似批次不变性，此时优化吞吐量直接缩短训练时间。 - 腾讯混元发布 Hy4 preview (2026-08-28 · Tencent Hunyuan Research)
770B 参数、49B 活跃参数、1M 上下文窗口，在软件工程、科学计算等长周期任务上提升显著，已开源。 - 从 LR 到 ELR：预训练动力学的更好启发式 (2026-08-06 · Tencent Hunyuan Research)
腾讯混元提出有效学习率（ELR）替代传统 LR，直接控制方向更新步长，在 Modded-nanoGPT 上以 3175 步达 3.28 损失，比此前最优快 75 步。 - Hyra：一个简单但有效的通用科研框架 (2026-07-21 · Tencent Hunyuan Research)
腾讯混元提出 Hyra，在 3 个 AI 研究基准上超越 Recursive，改写 55 个数学难题中 29 个的最佳结果，并设计出仅 15 参数的加法 Transformer。 - 腾讯混元发布 Hy3 (2026-07-06 · Tencent Hunyuan Research)
盲评得分 2.67/4 超过 GLM-5.1，幻觉率从 12.5% 降至 5.4%，以 Apache 2.0 开源。 - 真实生活里，上下文才难处理 (2026-04-30 · Tencent Hunyuan Research)
腾讯混元推出 CL-bench Life，405 个真实生活场景任务，最佳模型仅解决 22.2% - Hy3 preview：重建 Hy 模型的第一步 (2026-04-23 · Tencent Hunyuan Research)
腾讯混元发布 295B MoE 模型，激活参数 21B，支持三种推理模式，在编程与 agent 任务上提升显著。 - 用 GradLoc 诊断 RLVR 训练崩溃 (2026-02-13 · Tencent Hunyuan Research)
腾讯混元提出分布式二分查找工具，把梯度尖峰定位到单个 token，并发现新的崩溃模式：层间梯度异质性。 - 从上下文学习比我们想的更难 (2026-02-03 · Tencent Hunyuan Research)
腾讯混元发布 CL-bench 基准，十款前沿模型平均解题率仅 17.2%，主要失败模式是忽略或误用上下文