Mistral 发布时间序列基础模型 Timestral
来自 Mistral AI · 期号 2026-10-15
摘要
时间序列是工业界最常见的数据类型之一，从传感器遥测到可观测性指标，但传统模型要么只学单条序列的历史，要么每次都要从头训练。 Mistral 发布了首个时间序列基础模型家族 Timestral。最大的 209M 参数模型在 GIFT-Eval、TIME 和 fev-bench 三个公开基准上均排第一，超过了参数多出三分之一的此前最优模型。它输出概率性多变量预测，支持过去和已知未来的协变量，不需要 GPU，在 8 线程 CPU 上预测一天只需 10-140 毫秒。 家族有四个尺寸（5M 到 209M），每个尺寸都处在精度与模型大小的帕累托前沿上。28M 模型在 GIFT-Eval 和 TIME 上超过了约四倍大的 Chronos-2。 技术上的几个关键设计：Decoupled Horizon Forecasting 把历史序列和预测目标分开处理，让每个观测值既做目标又做上下文；协变量感知注意力机制让已知未来协变量（如生产计划、天气预报）可见而目标序列保持因果；训练数据以合成数据为主，先在大规模合成数据上预训练，再在混合数据上后训练。 模型可通过 Mistral Forge 微调，支持零样本推理、架构扩展和私有数据适配，可部署在包括气隙环境在内的客户硬件上。 原文是模型发布公告，附了 GitHub 仓库链接。
深读
导读 Mistral 发布了首个时间序列基础模型家族 Timestral，以仅 209M 参数在三个主流公开基准上全面超越参数多出三分之一的此前最优模型。它输出概率性多变量预测，支持过去和已知未来的协变量，且推理不需要 GPU，在 8 线程 CPU 上预测一天只需 10-140 毫秒。读完能了解时间序列基础模型的最新进展、Timestral 的关键技术设计，以及它在工业场景中的实际应用潜力。 关键信息 - 最大模型 209M 参数在 GIFT-Eval、TIME 和 fev-bench 三个基准上均排名第一，超越此前最优模型 TimesFM-3 和 Falcon-2.0，且参数只有后者的三分之二。 - 家族包含四个尺寸：5M、28M、123M 和 209M 参数，每个尺寸都处在精度与模型大小的帕累托前沿上。28M 模型在 GIFT-Eval 和 TIME 上超过了约四倍大的 Chronos-2。 - 推理不需要 GPU，在 8 线程 CPU 上，基于三周 15 分钟间隔的历史数据预测未来一天，5M 模型耗时 10 毫秒，209M 模型耗时 140 毫秒。 - 模型支持多变量概率预测，输出 21 个分位数，并可直接处理分类协变量（如星期几、设备状态）和已知未来协变量（如生产计划、天气预报）。 - 训练数据以合成数据为主，采用两阶段训练：先在纯合成数据上以 8192 上下文长度预训练，再在真实与合成混合数据上以 4 倍长的上下文（32768 时间步）后训练。 逐节讲解 时间序列基础模型：从单序列拟合到跨领域迁移 传统模型如 ARIMA 和线性回归通常只拟合单条序列的历史，学到的模式无法迁移。深度学习模型如 PatchTST 能跨多条相关序列学习非线性模式，但仍需在每个数据集上从头训练。时间序列基础模型将预训练范式引入该领域：在大规模多样化语料上训练后，模型学到的模式可以跨序列迁移，在从未见过的数据上实现零样本预测，即使是在数据稀缺的领域。 基准测试结果：全面第一 Timestral 在 GIFT-Eval、TIME 和 fev-bench 三个主流公开基准上，在所有五个指标中均排名第一，且结果来自单个 checkpoint，未使用集成方法。GIFT-Eval 榜单上有 83 个可比的预训练零样本模型，TIME 有 35 个，fev-bench 有 37 个。 模型家族：每个尺寸都在帕累托前沿上 四个模型共享相同的架构和训练方案。在 GIFT-Eval、TIME 和 fev-bench 上，每个尺寸的模型都处于精度与模型大小的帕累托前沿：对于给定的参数规模，没有公开模型能预测得更好。123M 模型在精度上仅比 209M 模型差 0.2%，但延迟只有后者的四分之三。 工业示例：多变量概率预测的实际应用 以一个拥有数千个传感器的工业工厂为例，Timestral 可以从…