Contrast Similarity-Aware Dual-Pathway Mamba for Multivariate Time Series Node Classification

📄 arXiv: 2411.12222v2 📥 PDF

作者: Mingsen Du, Meng Chen, Yongjian Li, Xiuxin Zhang, Jiahui Gao, Cun Ji, Shoushui Wei

分类: cs.LG, cs.AI

发布日期: 2024-11-19 (更新: 2025-06-18)

备注: We would like to request the withdrawal of our manuscript due to logical errors in the paper

💡 一句话要点

提出CS-DPMamba，结合对比学习相似度和双向Mamba，用于多变量时间序列节点分类。

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 多变量时间序列 节点分类 对比学习 Mamba 长程依赖

📋 核心要点

  1. 现有方法难以有效建模MTS数据中的长程依赖关系，且高维度使得相似性获取效率低下。
  2. 提出CS-DPMamba，利用对比学习获取动态相似度，并结合双向Mamba捕获长程和短程依赖。
  3. 在多个UEA MTS数据集上的实验表明，该方法在监督和半监督MTS分类任务中表现优越。

📝 摘要（中文）

多变量时间序列(MTS)数据由工程应用、健康监测和物联网等领域的多个传感器生成，具有时间变化和高维特征。近年来，许多研究探索了MTS中的长程依赖关系和相似性。然而，由于时间变化，长程依赖关系难以建模，高维度使得有效获取相似性变得困难。为了解决这些问题，我们提出了一种对比相似度感知的双路径Mamba用于MTS节点分类(CS-DPMamba)。首先，为了获得每个样本的动态相似性，我们使用时间对比学习模块来获取MTS表示。然后，我们使用快速动态时间规整(FastDTW)构建MTS表示之间的相似性矩阵。其次，我们应用DPMamba来考虑MTS的双向性，从而更好地捕获数据中的长程和短程依赖关系。最后，我们利用Kolmogorov-Arnold网络增强的图同构网络来完成矩阵中的信息交互和MTS节点分类任务。通过综合考虑长程依赖关系和动态相似性特征，我们实现了精确的MTS节点分类。我们在多个东英吉利大学(UEA) MTS数据集上进行了实验，这些数据集涵盖了不同的应用场景。结果表明，我们的方法在MTS分类任务的监督和半监督实验中都具有优越性。

🔬 方法详解

问题定义：多变量时间序列（MTS）节点分类问题旨在根据时间序列数据将节点划分到不同的类别。现有方法在处理MTS数据时，难以同时捕捉到长程依赖关系和有效的相似性信息。时间序列数据的动态变化和高维度特征使得建模变得复杂，计算成本高昂。

核心思路：CS-DPMamba的核心思路是结合对比学习提取的动态相似性信息和双向Mamba模型，从而更有效地捕捉MTS数据中的长程和短程依赖关系。通过对比学习，模型能够学习到更具区分性的时间序列表示，进而计算样本间的动态相似度。双向Mamba的设计则允许模型同时考虑时间序列的正向和反向依赖关系。

技术框架：CS-DPMamba的整体框架包括以下几个主要模块：1) 时间对比学习模块：用于获取MTS数据的表示向量。2) 相似性矩阵构建模块：使用FastDTW算法计算MTS表示之间的相似性矩阵。3) 双路径Mamba（DPMamba）模块：用于捕捉MTS数据中的长程和短程依赖关系。4) Kolmogorov-Arnold网络增强的图同构网络：用于在相似性矩阵上进行信息交互，并完成最终的节点分类任务。

关键创新：该方法最重要的创新点在于将对比学习获得的动态相似性信息与双向Mamba模型相结合。对比学习能够提取更鲁棒的特征表示，而双向Mamba能够更全面地捕捉时间序列的依赖关系。这种结合克服了传统方法在处理高维、动态MTS数据时的局限性。

关键设计：在时间对比学习模块中，采用了合适的损失函数（具体损失函数类型未知）来训练模型，使得相似的时间序列在表示空间中更接近。FastDTW算法的选择是为了在保证相似性计算精度的前提下，提高计算效率。DPMamba模块采用了双向结构，允许模型同时考虑过去和未来的信息。Kolmogorov-Arnold网络增强的图同构网络（KAN-GNN）的具体结构和参数设置未知，但其目的是在相似性矩阵上进行有效的消息传递和节点分类。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CS-DPMamba在多个UEA MTS数据集上取得了优越的性能。在监督和半监督实验中，该方法均超过了现有的基线方法。具体的性能提升幅度未知，但摘要中明确指出该方法实现了“精确的MTS节点分类”，表明其性能具有显著优势。

🎯 应用场景

该研究成果可广泛应用于工程应用、健康监测和物联网等领域。例如，在工业设备故障诊断中，通过分析传感器采集的时间序列数据，可以对设备状态进行分类和预测。在医疗健康领域，可以用于疾病诊断和患者状态监测。在物联网领域，可以用于智能家居、智能交通等应用中的设备状态监控和异常检测，具有重要的实际应用价值和潜在的社会经济效益。

📄 摘要（原文）

Multivariate time series (MTS) data is generated through multiple sensors across various domains such as engineering application, health monitoring, and the internet of things, characterized by its temporal changes and high dimensional characteristics. Over the past few years, many studies have explored the long-range dependencies and similarities in MTS. However, long-range dependencies are difficult to model due to their temporal changes and high dimensionality makes it difficult to obtain similarities effectively and efficiently. Thus, to address these issues, we propose contrast similarity-aware dual-pathway Mamba for MTS node classification (CS-DPMamba). Firstly, to obtain the dynamic similarity of each sample, we initially use temporal contrast learning module to acquire MTS representations. And then we construct a similarity matrix between MTS representations using Fast Dynamic Time Warping (FastDTW). Secondly, we apply the DPMamba to consider the bidirectional nature of MTS, allowing us to better capture long-range and short-range dependencies within the data. Finally, we utilize the Kolmogorov-Arnold Network enhanced Graph Isomorphism Network to complete the information interaction in the matrix and MTS node classification task. By comprehensively considering the long-range dependencies and dynamic similarity features, we achieved precise MTS node classification. We conducted experiments on multiple University of East Anglia (UEA) MTS datasets, which encompass diverse application scenarios. Our results demonstrate the superiority of our method through both supervised and semi-supervised experiments on the MTS classification task.