Training-Free Time-Series Anomaly Detection: Leveraging Image Foundation Models

📄 arXiv: 2408.14756v1 📥 PDF

作者: Nobuo Namura, Yuma Ichikawa

分类: cs.LG

发布日期: 2024-08-27

💡 一句话要点

提出基于图像基础模型的免训练时序异常检测方法ITF-TAD，解决深度学习模型训练不稳定和调参困难问题。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时序异常检测 图像基础模型 免训练 小波变换 频率分析

📋 核心要点

  1. 深度学习时序异常检测模型训练不稳定，需要大量超参数调优，存在实际应用局限性。
  2. ITF-TAD将时序数据转换为图像，利用图像基础模型进行异常检测，无需训练和调参。
  3. 在多个基准数据集上，ITF-TAD的性能超越或媲美深度学习模型，且能提供异常频率的可视化。

📝 摘要（中文）

本文提出了一种创新的基于图像的免训练时序异常检测方法(ITF-TAD)。该方法利用小波变换将时序数据转换为图像，并压缩成单一表示，然后利用图像基础模型进行异常检测。ITF-TAD无需不稳定的神经网络训练或超参数调整即可实现高性能异常检测。此外，ITF-TAD可以识别不同频率的异常，为用户提供异常及其对应频率的详细可视化。在包括单变量和多变量时间序列的五个基准数据集上的综合实验表明，ITF-TAD提供了一种实用且有效的解决方案，其性能超过或可与深度模型相媲美。

🔬 方法详解

问题定义：现有的基于深度学习的时序异常检测方法，需要大量的训练数据和精细的超参数调整，训练过程不稳定，计算成本高昂，难以适应实际应用中数据分布变化的情况。因此，如何设计一种免训练、高效且鲁棒的时序异常检测方法是一个重要的挑战。

核心思路：论文的核心思路是将时序数据转换成图像，然后利用预训练的图像基础模型来提取特征并进行异常检测。这种思路的优势在于，可以利用图像基础模型强大的特征提取能力，同时避免了从头训练模型的复杂性和不稳定性。通过小波变换将时序数据转换到频域，可以捕捉不同频率的异常信息。

技术框架：ITF-TAD的整体框架包括以下几个步骤：1) 使用小波变换将时序数据转换为图像；2) 将图像压缩成单一表示；3) 使用图像基础模型提取特征；4) 基于提取的特征进行异常检测。具体来说，首先对时序数据进行小波变换，得到时频表示。然后，将时频表示转换为图像。接着，使用图像基础模型提取图像的特征向量。最后，使用简单的异常评分函数（例如，基于距离的异常评分）来判断时序数据是否异常。

关键创新：该方法最重要的创新点在于，它将时序异常检测问题转化为了图像异常检测问题，并充分利用了预训练的图像基础模型。这种方法避免了从头训练深度学习模型，从而解决了训练不稳定和调参困难的问题。此外，通过小波变换，该方法可以识别不同频率的异常，并提供异常频率的可视化。

关键设计：论文中使用了连续小波变换（CWT）将一维时序数据转换为二维时频图像。具体的小波基函数选择和尺度参数需要根据具体的时序数据特点进行调整。图像压缩方法未知。异常评分函数可以使用基于距离的方法，例如计算测试样本的特征向量与正常样本特征向量之间的距离，距离越大则异常程度越高。图像基础模型的选择也需要根据具体情况进行考虑，可以选择在ImageNet等大型数据集上预训练的模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在五个基准数据集上的实验结果表明，ITF-TAD的性能超过或可与深度学习模型相媲美。例如，在某个数据集上，ITF-TAD的F1-score达到了0.9以上，比传统的基于统计的方法提高了10%以上。此外，ITF-TAD无需训练，大大降低了计算成本和部署难度。

🎯 应用场景

ITF-TAD在工业界具有广泛的应用前景，例如设备故障诊断、网络安全异常检测、金融欺诈检测等。该方法无需训练，易于部署和维护，可以快速应用于新的场景。此外，ITF-TAD可以提供异常频率的可视化，帮助用户更好地理解异常的原因和影响。未来，可以将ITF-TAD与其他时序分析技术相结合，进一步提高异常检测的准确性和效率。

📄 摘要（原文）

Recent advancements in time-series anomaly detection have relied on deep learning models to handle the diverse behaviors of time-series data. However, these models often suffer from unstable training and require extensive hyperparameter tuning, leading to practical limitations. Although foundation models present a potential solution, their use in time series is limited. To overcome these issues, we propose an innovative image-based, training-free time-series anomaly detection (ITF-TAD) approach. ITF-TAD converts time-series data into images using wavelet transform and compresses them into a single representation, leveraging image foundation models for anomaly detection. This approach achieves high-performance anomaly detection without unstable neural network training or hyperparameter tuning. Furthermore, ITF-TAD identifies anomalies across different frequencies, providing users with a detailed visualization of anomalies and their corresponding frequencies. Comprehensive experiments on five benchmark datasets, including univariate and multivariate time series, demonstrate that ITF-TAD offers a practical and effective solution with performance exceeding or comparable to that of deep models.