Google 发布零样本时间序列模型 TimesFM-3
来自 Google Research · 期号 2026-09-01
摘要
时间序列预测通常需要为每个数据集单独训练模型，成本高且难以泛化。 Google 发布 TimesFM-3，一个零样本多变量时间序列基础模型。它可以直接预测未见过的数据集，无需微调。 官方称其在多个公开 benchmark 上追平甚至超过了此前需要专门训练的模型。
深读
导读 时间序列预测通常需要为每个数据集单独训练模型，成本高且难以泛化。Google 发布 TimesFM-3，一个 3.3 亿参数的多变量时间序列基础模型，能在一次前向传播中完成预测，无需微调。它在多个公开 benchmark 上追平甚至超越了此前需要专门训练的模型，并原生支持利用已知的未来事件（如促销计划）来提升预测精度。 关键信息 - TimesFM-3 拥有 3.3 亿参数，在包含超过 1 万亿个时间点的真实与合成时间序列语料上预训练。 - 模型采用 decoder-only transformer 架构，将连续数据点分组为 32 步的 patch 进行处理。 - 核心创新是交替注意力机制：因果时间注意力（水平方向，仅关注自身序列的过去）与全变量注意力（垂直方向，关注同一时刻所有其他序列）交替堆叠。 - 采用非自回归解码策略（Contiguous Patch Masking），一次性生成整个预测区间，避免了逐 patch 生成带来的误差累积和延迟。 - 在 Gift-Eval、FEV-Bench 和 Time 三个公开 benchmark 上，TimesFM-3 在点预测和概率预测指标上均排名第一，超越了 Chronos-2、Toto 2.0 等模型。 - 即使仅使用单变量模式（不利用跨序列信息），TimesFM-3 也已匹配或超越其他模型；切换到多变量模式后性能进一步提升。 逐节讲解 从单变量到多变量：TimesFM 系列的演进 TimesFM 自 2024 年发布以来，已被用于零售、金融、医疗等多个领域的实际预测任务。但直到 TimesFM-2.5（2025 年 9 月发布），模型都严格限于单变量预测，仅使用单个时间序列的历史数据。然而，现实中的预测问题本质上是多变量的：多个时间序列和外部特征共同影响未来。文章以冰淇淋销售为例：仅靠历史销量远远不够，还需要关联产品（如蛋筒、糖浆）的销售、历史客流量以及已知的未来事件（天气预报、促销、节假日）。 架构与推理：交替注意力与非自回归解码 TimesFM-3 延续了前代的 decoder-only transformer 架构。对于目标序列和过去协变量，每个 patch 直接生成一个 token；对于“过去-未来”协变量（如已知的促销计划），模型采用“前瞻”策略：将当前 patch 与未来 patch 拼接，让模型能“看到”即将到来的已知信号。 关键设计是交替注意力机制，将 token 组织成二维网格： - 因果时间注意力：token 在水平方向上仅关注自身序列的过去 token，防止数据泄露。 - 全变量注意力：token 在垂直方向上关注同一时间步的所有其他序列，学习跨序列的相关性（如一个产品的促销如何影响另一个产品的销量）。 在解码阶段，TimesFM-3 放弃了前代逐 patch 生成的模式，改用…