腾讯发布 Hy4 Preview
来自 Simon Willison · 期号 2026-08-30
摘要
腾讯发布开源大模型 Hy4 Preview,770B 总参数、49B 活跃参数、1M token 上下文窗口,模型权重约 1.56TB。相比 7 月发布的 Hy3(295B 总参、21B 活跃参、256K 上下文),规模大幅增长。 从 Hugging Face 的聊天模板看,Hy4 支持两种推理模式:默认的“high”和关闭推理的“no_think”。 Simon Willison 用“生成一张鹈鹕骑自行车的 SVG”测试了高推理模式,模型在推理过程中会自我对话(如“要不要加头盔?可能会遮住头”),且推理文本使用了简略英语,推测是为了 token 效率。
深读
导读 腾讯发布了开源大模型 Hy4 Preview,总参数量 770B、活跃参数 49B、上下文窗口 1M token,模型权重约 1.56TB。相比 7 月的 Hy3 规模大幅增长,且从聊天模板看支持两种推理模式。Simon Willison 用“生成鹈鹕骑自行车 SVG”测试了高推理模式,发现其推理过程使用简略英语,推测是为 token 效率优化。 关键信息 - Hy4 Preview 总参数 770B、活跃参数 49B、上下文窗口 1M token,模型权重约 1.56TB。 - 相比 7 月发布的 Hy3(295B 总参、21B 活跃参、256K 上下文、598GB),规模大幅增长。 - 从 Hugging Face 的聊天模板看,Hy4 支持两种推理模式:默认的“high”和关闭推理的“no_think”。 - Simon Willison 用“生成一张鹈鹕骑自行车的 SVG”测试高推理模式,模型在推理过程中会自我对话(如“要不要加头盔?可能会遮住头”),且推理文本使用了简略英语。 逐节讲解 模型发布与规格 腾讯于 2026 年 8 月 29 日发布开源文本输入模型(无视觉能力)Hy4 Preview。总参数 770B,但通过 MoE 架构仅激活 49B,上下文窗口达 1M token,模型权重约 1.56TB。相比 7 月发布的 Hy3(295B 总参、21B 活跃参、256K 上下文、598GB),参数量和上下文长度均有显著提升。 推理模式分析 Simon Willison 通过 Hugging Face 上的聊天模板 chat_template.jinja 解析出 Hy4 的推理配置。模板中定义了 reasoning_effort 参数,默认值为 'high',可选值仅 'high' 和 'no_think'(禁用推理)。这意味着 Hy4 支持两种推理模式,且没有中间档位。 推理行为测试 Willison 使用“生成一张鹈鹕骑自行车的 SVG”提示词,通过 OpenRouter 调用 Hy4 的高推理模式。模型在推理过程中会进行自我对话,例如“要不要加头盔?可能会遮住头。也许加一顶小骑行帽或头盔?用户没要求;可以加红色头盔?可能很可爱。但鹈鹕嘴大,头盔可能会遮住。最好不加。”Willison 注意到推理文本使用了简略英语(如省略冠词、使用不完整句子),推测是因为隐藏的推理文本不需要完美语法,且简略表达更节省 token。 值得注意 - 原文信息有限:Hy4 的 benchmark 成绩、训练数据、许可证细节、与 Hy3 的具体架构差异均未提及。 - 推理模式仅两种(high / no_think),没有“medium”或“low”档位,这与一些主流推理模型(如 OpenAI 的 o 系列)的细粒度控制不同。 - 测试仅基于一个 SVG 生成提…