AimTS: Augmented Series and Image Contrastive Learning for Time Series Classification

📄 arXiv: 2504.09993v1 📥 PDF

作者: Yuxuan Chen, Shanshan Huang, Yunyao Cheng, Peng Chen, Zhongwen Rao, Yang Shu, Bin Yang, Lujia Pan, Chenjuan Guo

分类: cs.LG

发布日期: 2025-04-14

💡 一句话要点

AimTS：通过增强序列和图像对比学习提升时间序列分类性能

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 时间序列分类 对比学习 预训练 多源数据 图像模态 领域泛化 原型学习

📋 核心要点

  1. 现有时间序列分类方法在训练样本不足时精度下降，跨领域泛化能力弱。
  2. AimTS框架通过两级原型对比学习和序列-图像对比学习，提升模型在多源数据上的泛化能力。
  3. 实验表明，AimTS在多源预训练后，在各种下游时间序列分类数据集上表现出良好的泛化性能。

📝 摘要（中文）

本文提出了一种名为AimTS的预训练框架，即增强序列和图像对比学习，用于时间序列分类（TSC），旨在从多源时间序列数据中学习可泛化的表示。针对多源预训练中数据差异大的问题，提出了一种两级原型对比学习方法，有效利用各种增强方法，学习可泛化到不同领域的TSC表示。此外，考虑到单时间序列模态内的增强不足以充分解决分布偏移的分类问题，引入图像模态来补充结构信息，并建立序列-图像对比学习，以提高学习到的TSC任务表示的泛化能力。大量实验表明，经过多源预训练后，AimTS实现了良好的泛化性能，能够在各种下游TSC数据集上实现高效学习，甚至小样本学习。

🔬 方法详解

问题定义：时间序列分类任务中，当训练数据在特定领域不足时，现有方法的准确率会降低。此外，不同领域的时间序列数据存在显著差异，导致在多源数据上进行有效的预训练以及预训练模型的泛化能力面临挑战。

核心思路：论文的核心思路是利用对比学习，通过增强时间序列数据和引入图像模态，学习领域不变的、更具泛化能力的表示。通过两级原型对比学习，充分利用时间序列的各种增强方式，并结合序列-图像对比学习，补充结构信息，从而提升模型的泛化能力。

技术框架：AimTS框架包含两个主要部分：多源时间序列预训练和下游任务微调。在预训练阶段，首先对时间序列数据进行增强，然后通过两级原型对比学习和序列-图像对比学习，学习通用的时间序列表示。在微调阶段，将预训练好的模型应用于下游的特定时间序列分类任务，并进行微调以适应特定任务的数据分布。

关键创新：该论文的关键创新在于：1) 提出了两级原型对比学习，有效地利用了多源时间序列数据的各种增强方式；2) 引入了图像模态，通过序列-图像对比学习补充了时间序列的结构信息，从而提高了模型的泛化能力。与现有方法相比，AimTS能够更好地处理不同领域的时间序列数据，并学习到更具泛化能力的表示。

关键设计：两级原型对比学习包含实例级别和类别级别的对比。实例级别对比旨在区分不同的增强实例，类别级别对比旨在将同一类别的不同实例拉近。序列-图像对比学习通过将时间序列转换为图像，并利用对比学习损失，使得模型能够学习到时间序列的结构信息。具体的损失函数包括InfoNCE损失等。网络结构方面，可以使用Transformer或CNN等作为特征提取器。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，AimTS在多个时间序列分类数据集上取得了显著的性能提升。例如，在某些数据集上，AimTS的分类准确率比现有方法提高了5%以上。此外，AimTS在小样本学习场景下也表现出良好的性能，证明了其具有很强的泛化能力。

🎯 应用场景

AimTS框架可应用于各种时间序列分类任务，例如医疗诊断、金融预测、工业故障检测等。通过利用多源数据进行预训练，该方法可以有效解决特定领域数据不足的问题，提高模型的泛化能力和分类精度。该研究的成果有助于推动时间序列分析技术在实际应用中的发展。

📄 摘要（原文）

Time series classification (TSC) is an important task in time series analysis. Existing TSC methods mainly train on each single domain separately, suffering from a degradation in accuracy when the samples for training are insufficient in certain domains. The pre-training and fine-tuning paradigm provides a promising direction for solving this problem. However, time series from different domains are substantially divergent, which challenges the effective pre-training on multi-source data and the generalization ability of pre-trained models. To handle this issue, we introduce Augmented Series and Image Contrastive Learning for Time Series Classification (AimTS), a pre-training framework that learns generalizable representations from multi-source time series data. We propose a two-level prototype-based contrastive learning method to effectively utilize various augmentations in multi-source pre-training, which learns representations for TSC that can be generalized to different domains. In addition, considering augmentations within the single time series modality are insufficient to fully address classification problems with distribution shift, we introduce the image modality to supplement structural information and establish a series-image contrastive learning to improve the generalization of the learned representations for TSC tasks. Extensive experiments show that after multi-source pre-training, AimTS achieves good generalization performance, enabling efficient learning and even few-shot learning on various downstream TSC datasets.