LFM2.5-24B-A2B：为快速本地 agent 打
来自 Hugging Face · 期号 2026-10-14
摘要
Liquid AI 发布 LFM2.5-24B-A2B，一个 24B 参数、每 token 只激活 2B 参数的推理模型，专为在设备上运行快速、私密的 agent 而设计。 模型总参数 24B，但每次只激活 2B，所以推理成本很低。它会在回答前先输出一段思维链，支持工具调用和多步任务。上下文窗口从上一代的 32K 扩展到 131K，词表翻倍到 128K 以改善非拉丁语系的分词。 在工具调用和 agent 基准上，它用更少的参数追平甚至超过了更大的 MoE 模型：LiveClaw 得分 48.09，高于 Qwen3.6-35B-A3B 的 38.19；AutomationBench 得分 27.69，是第二名 8.72 的三倍多。在指令遵循的三个基准上也全部领先。知识密集型和编程基准上仍落后于更大的模型，因此知识类任务建议搭配检索或搜索使用。 推理速度方面，它在 Apple M5 Max 上达到 184 tok/s，在单张 NVIDIA B300 上超过 21K 输出 tok/s，是同类中最快的。 模型权重开源，已支持 llama.cpp、MLX、vLLM、SGLang 等推理框架。
深读
导读 Liquid AI 发布了 LFM2.5-24B-A2B，一个总参数 24B、每 token 只激活 2B 参数的推理模型，专为在设备上运行快速、私密的 agent 而设计。它在工具调用和 agent 基准上以远少于竞品的激活参数追平甚至超越 Qwen3.6-35B-A3B 等更大的 MoE 模型，同时推理速度在 Apple M5 Max 上达到 184 tok/s。读完可以了解一个 2B 激活参数的模型如何在 agent 任务上做到高效、低成本，以及它的局限在哪里。 关键信息 - 模型总参数 24B，每 token 只激活 2B 参数（40 层、64 experts、top-4 路由的 MoE 架构）。 - 上下文窗口从上一代的 32K 扩展到 131K tokens，词表从 65K 翻倍到 128K 以改善非拉丁语系的分词。 - 预训练数据从约 17T tokens 扩展到约 33T tokens，中间训练加入 2T tokens（32K 上下文）和 300B tokens（131K 上下文），侧重推理、数学、代码、指令遵循和多语言文本。 - 后训练分五阶段：SFT → 教师特化 → 非 agentic 多领域在策略蒸馏 → agentic 多领域在策略蒸馏 → Agentic RL（在 OpenClaw、Hermes Agent、Pi、OpenCode 等 agent harness 中训练）。 - 在 AutomationBench 上得分 27.69，是第二名 Qwen3.6-35B-A3B（8.72）的三倍多；LiveClaw 得分 48.09，高于 Qwen3.6-35B-A3B 的 38.19。 - 在三个指令遵循基准（IFEval、IFBench、Multi-IF）上全部领先；在知识密集型基准（GPQA Diamond、HLE）和编程基准（SWE-Bench Verified、SciCode）上落后于更大的模型。 - 推理速度：Apple M5 Max 上 184 tok/s，Ryzen AI Max+ 395 上 114 tok/s，单张 NVIDIA B300 GPU 上可达 21K+ output tok/s。 逐节讲解 架构与训练流程 LFM2.5-24B-A2B 基于上一代 LFM2-24B-A2B 的架构：40 层、每层 MoE block 含 64 个专家、每次路由选 top-4，并保留门控短卷积和 GQA 的混合设计。与上一代的关键区别是：这是一个纯推理模型，会在最终回答前显式输出一段思维链。预训练数据量从约 17T 扩大到约 33T tokens。中间训练分两部分：2T tokens 在 32K 上下文上训练，侧重推理、数学、代码、指令遵循和多语言文本；300B tokens 在 131K 上下文上训练，侧重长上下文…