Exploring Zero-Shot Foundation Models for Multivariate Time Series Anomaly Detection

📄 arXiv: 2607.12454v1 📥 PDF

作者: Martin Uray, Saverio Messineo, Roland Kwitt, Stefan Huber

分类: cs.LG

发布日期: 2026-07-14

备注: This preprint has not undergone peer review or any post-submission improvements or corrections. The Version of Record of this contribution will be published in Computer Aided Systems Theory - EUROCAST 2026, Lecture Notes in Computer Science, Springer

💡 一句话要点

探索零-shot基础模型用于多变量时间序列异常检测

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多变量时间序列 异常检测 零-shot学习 基础模型 工业监控 变更点检测

📋 核心要点

  1. 现有的多变量时间序列异常检测方法依赖于特定应用模型，训练成本高且难以扩展，限制了其在实际应用中的有效性。
  2. 本文提出利用零-shot学习的基础模型TimesFM进行多变量时间序列异常检测，探索其在工业场景中的应用潜力。
  3. 实验结果显示，尽管所提方法未能超越现有基线，但在异常边界处的错误峰值提供了对分布变化的可靠检测能力。

📝 摘要（中文）

多变量时间序列异常检测（MTSAD）在工业过程监控和金融风险管理等领域至关重要，但传统方法依赖于特定应用模型，训练成本高且难以扩展。本文探讨了在没有任务特定训练的情况下，零-shot应用单变量预测基础模型TimesFM于工业MTSAD的可能性。通过两种策略进行评估，结果显示所提方法在与已建立基线的比较中并不具竞争力，嵌入表示仅部分区分正常与异常段。尽管如此，研究发现异常边界处的错误峰值表明基础模型能够可靠地检测分布变化。最终结论是，所提的零-shot基础模型不适合MTSAD，但在变更点检测方面具有潜力。

🔬 方法详解

问题定义：本文旨在解决多变量时间序列异常检测中的模型训练成本高和扩展性差的问题。现有方法通常依赖于特定应用的模型，难以适应不同场景。

核心思路：论文提出利用零-shot学习的基础模型TimesFM，探索其在多变量时间序列异常检测中的应用，试图在不进行任务特定训练的情况下实现有效检测。

技术框架：整体架构包括将基础模型作为每个特征的预测器，利用阈值预测误差进行异常检测；同时作为嵌入器，生成中间表示供标准异常检测器使用。

关键创新：最重要的创新在于将基础模型应用于多变量时间序列异常检测的零-shot场景，尽管结果未能超越基线，但为后续研究提供了新的思路。

关键设计：在实验中，模型的参数设置和损失函数设计未详细说明，主要关注于模型的嵌入表示和预测误差的阈值设定。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提的零-shot基础模型在与已建立基线的比较中并不具竞争力，嵌入表示仅部分区分正常与异常段。然而，异常边界处的错误峰值显示基础模型能够有效检测分布变化，为后续研究提供了重要的见解。

🎯 应用场景

该研究的潜在应用领域包括工业过程监控、金融风险管理等，能够为实时异常检测提供新的思路和方法。尽管当前的零-shot基础模型在多变量时间序列异常检测中表现不佳，但其在变更点检测方面的潜力为未来研究指明了方向。

📄 摘要（原文）

Multivariate Time Series Anomaly Detection (MTSAD) is essential for reliability and safety in domains such as industrial process monitoring and financial risk management, yet conventional approaches rely on application-specific models that are costly to train and hard to scale. Foundation Models (FMs), pre-trained on broad data with strong zero-shot generalization, have recently become available for univariate time series forecasting, raising the question of whether they can address MTSAD without task-specific training. We investigate the zero-shot application of a univariate forecasting FM, TimesFM, to industrial MTSAD on the Secure Water Treatment (SWaT) benchmark, evaluating two strategies: treating the FM as a per-feature forecaster with thresholded prediction errors, and as an embedder whose intermediate representations feed standard outlier detectors. Neither of our proposed setups is competitive with established baselines; embeddings reveal only partial separation between normal and anomalous segments, insufficient for reliable detection. The cause is that the FM is too effective at capturing temporal dynamics, yielding low error even within fully anomalous windows, so persistent anomalies become indistinguishable from normal behavior. However, these observations yield valuable insights: the error peaks at anomaly boundaries, indicating FMs reliably detect distribution changes. We conclude that the proposed naive zero-shot FMs are unsuitable for MTSAD but promising for change-point detection.