Mistral Small 4
来自 Mistral AI · 期号 2026-03-17
摘要
Mistral AI 发布 Mistral Small 4，将推理、多模态与 agent 编程能力统一到一个模型里，采用 Apache 2.0 开源协议。 模型采用 MoE 架构：128 个专家，每 token 激活 4 个，总参数量 119B，活跃参数量 6B（含 embedding 为 8B），上下文窗口 256k。与 Mistral Small 3 相比，端到端延迟降低 40%，吞吐量提升 3 倍。 新引入 reasoning_effort 参数，可在快速响应与深度推理之间切换。支持文本与图像输入，最低部署配置为 4 块 H100。 模型已适配 vLLM、llama.cpp、SGLang 等推理框架。
深读
导读 Mistral AI 发布了其小模型系列的最新成员 Mistral Small 4，首次将推理、多模态和 agent 编程能力统一到一个模型中，并采用 Apache 2.0 开源协议。对于需要兼顾性能与部署成本的开发者或企业来说，这个模型提供了一个无需在多个专用模型间切换的单一方案。 关键信息 - 架构为 MoE：128 个专家，每 token 激活 4 个，总参数量 119B，活跃参数量 6B（含 embedding 和输出层为 8B），上下文窗口 256k。 - 与 Mistral Small 3 相比，端到端延迟降低 40%，吞吐量提升 3 倍。 - 引入 reasoning_effort 参数，支持在 "none"（快速响应）与 "high"（深度推理）之间切换。 - 最低部署配置为 4 块 NVIDIA HGX H100，推荐配置相同；也支持 H200 和 DGX B200。 - 在 AA LCR 基准上，Mistral Small 4 以 1.6K 字符输出达到 0.72 分，而 Qwen 模型需要 5.8-6.1K 字符才能获得可比性能。 - 输入价格 $0.15/百万 token，输出价格 $0.6/百万 token。 逐节讲解 模型定位与架构 Mistral Small 4 是 Mistral Small 系列的最新版本，其核心卖点是统一了此前三个旗舰模型的能力：Magistral（推理）、Pixtral（多模态）和 Devstral（agent 编程）。用户不再需要根据任务切换模型。模型采用 MoE 架构，128 个专家中每 token 激活 4 个，总参数量 119B，活跃参数量 6B（含 embedding 和输出层为 8B），上下文窗口 256k，支持文本和图像输入。 可配置的推理能力 新引入的 reasoning_effort 参数允许用户动态调整模型行为。设为 "none" 时，模型行为等同于 Mistral Small 3.2 的快速聊天风格；设为 "high" 时，则执行深度、逐步的推理，输出长度与之前的 Magistral 模型相当。这使得同一个模型既能处理日常轻量任务，也能应对复杂推理问题。 性能与效率 与 Mistral Small 3 相比，在延迟优化配置下端到端完成时间降低 40%，在吞吐优化配置下每秒请求数提升 3 倍。文章通过三个基准测试的图表说明，Mistral Small 4 在启用推理时，能以更短的输出长度达到与 GPT-OSS 120B 相当或更高的分数。例如在 AA LCR 上，Mistral Small 4 仅用 1.6K 字符输出就得到 0.72 分，而 Qwen 模型需要 3.5-4 倍的输出长度才能获得可比性能；在 LiveCodeBench 上，Mistral Small 4 在输出减…