Foundations without Fundamentals: Zero-Shot Blind Spots in Time Series FMs
作者: Nafiseh Ghoroghchian, Haipeng Zhang, Shuyi Han, Alex Labach, George Stein
分类: cs.LG
发布日期: 2026-10-01
💡 一句话要点
提出SimpleTimeBench以解决时间序列基础模型的盲点问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 时间序列模型 基础模型 时间逻辑 预测能力 诊断工具
📋 核心要点
- 现有的时间序列基础模型在处理基本时间逻辑时表现不佳，尤其是在外生协变量支持的情况下。
- 本文提出SimpleTimeBench作为诊断工具，评估时间序列模型在基本时间模式下的预测能力。
- 实验结果显示，主流多变量TSFMs在简单的预测任务中表现不佳，且微调并未有效提升其通用性。
📝 摘要（中文）
尽管时间序列基础模型（TSFMs）在广泛基准测试中取得了成功，但它们在内部化基本时间逻辑方面的能力仍未得到充分检验。本文引入了SimpleTimeBench，这是一个用于单变量和多变量的诊断“单元测试”套件，旨在评估单调趋势、周期信号和领先指标协变量等基本原语的表现。令人惊讶的是，许多知名的多变量TSFMs（如Chronos-2、Moirai和Toto）在这些输入上经常产生次优的零-shot预测。尽管对Chronos-2进行微调改善了其在特定任务上的表现，但这种适应性却降低了其在其他基本模式上的性能，揭示了预训练规模与基本时间推理之间的差距。
🔬 方法详解
问题定义：本文旨在解决时间序列基础模型在基本时间逻辑推理中的盲点，现有方法在处理简单可预测函数时表现不佳，尤其是在存在外生协变量的情况下。
核心思路：通过引入SimpleTimeBench，提供一个系统化的测试框架，评估时间序列模型在单调趋势、周期信号和领先指标等基本模式下的表现，以揭示其潜在的盲点。
技术框架：整体架构包括数据生成模块、模型评估模块和结果分析模块。数据生成模块负责创建符合基本时间模式的测试数据，模型评估模块则使用这些数据对不同的TSFMs进行性能评估，最后结果分析模块对模型的预测能力进行深入分析。
关键创新：最重要的技术创新在于提出了SimpleTimeBench这一诊断工具，能够系统性地评估时间序列模型在基本时间逻辑推理中的能力，与现有方法相比，提供了更为细致的性能分析。
关键设计：在实验中，使用了多种时间序列模型（如Chronos-2、Moirai和Toto），并设计了特定的损失函数以评估模型在不同时间模式下的表现，同时关注模型的微调对其通用性的影响。
🖼️ 关键图片
📊 实验亮点
实验结果表明，主流多变量TSFMs在处理基本时间模式时的零-shot预测准确率显著低于预期，Chronos-2在特定任务上的微调虽然有所改善，但在其他基本模式上的表现却下降，显示出模型在时间逻辑推理上的不足。
🎯 应用场景
该研究的潜在应用领域包括金融市场预测、气象数据分析和工业设备监控等。通过提高时间序列模型对基本时间逻辑的理解，能够增强其在实际应用中的可靠性和实用性，进而推动相关领域的技术进步。
📄 摘要（原文）
Despite the success of Time Series Foundation Models (TSFMs) on broad benchmarks, their ability to internalize basic temporal logic, especially in settings supported by exogenous covariates, remains under-examined. We introduce SimpleTimeBench, a diagnostic univariate and multivariate "unit test" suite for primitives such as monotonic trends, periodic signals and leading indicator covariates, scenarios where near-perfect forecasts should be trivial. Surprisingly, prominent multivariate TSFMs (Chronos-2, Moirai and Toto) frequently produce suboptimal zero-shot forecasts for these inputs. While fine-tuning Chronos-2 improves its behaviour on specific tasks, we show that this adaptation degrades performance on other fundamental patterns rather than enhancing its generalizable foundational capabilities. This reveals a gap between pre-training scale and basic temporal reasoning, suggesting that current TSFMs could potentially lack the inductive biases needed to capture simple predictable functions. We further demonstrate that these failures are not merely synthetic curiosities: they persist in real-world sensor forecasting, where TSFMs consistently underutilize leading indicators available in observed covariates. This inability to capture simple relationships limits the practical utility and reliability of current multivariate models.