Multivariate de Bruijn Graphs: A Symbolic Graph Framework for Time Series Forecasting

📄 arXiv: 2505.22768v3 📥 PDF

作者: Mert Onur Cakiroglu, Idil Bilge Altun, Mehmet Dalkilic, Elham Buxton, Hasan Kurban

分类: cs.LG

发布日期: 2025-05-28 (更新: 2025-07-03)

🔗 代码/项目: GITHUB

💡 一句话要点

提出DRAGON，利用多变量de Bruijn图解决时间序列预测中符号结构缺失问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时间序列预测 多变量de Bruijn图 图神经网络 符号表示 注意力机制 深度学习 序列建模

📋 核心要点

  1. 时间序列预测面临时间异质性和高维度挑战，现有方法缺乏对内在符号结构的有效建模。
  2. DRAGON通过引入多变量de Bruijn图，将离散化的时间序列映射到固定图结构，实现结构感知的动态上下文恢复。
  3. DRAGON作为辅助模块增强CNN编码器，利用符号化表示提升预测性能，代码已开源。

📝 摘要（中文）

由于时间异质性、高维度和缺乏内在符号结构，时间序列预测对基础模型来说仍然是一个具有挑战性的任务。本文提出了一种新的编码器DRAGON（Discrete Representation and Augmented Graph encoding Over de BruijN Graphs），它引入了多变量de Bruijn图（MdBGs），以弥合符号表示和神经建模之间的差距。DRAGON离散化连续输入序列，并将它们映射到固定的图结构上，从而可以通过基于图的注意力实现动态上下文恢复。DRAGON作为一个双分支架构中的辅助模块，利用符号化的、结构感知的表示来增强传统的基于CNN的编码器。本研究开发的所有代码都可以在https://github.com/KurbanIntelligenceLab/MultdBG-Time-Series-Library 找到。

🔬 方法详解

问题定义：时间序列预测任务面临着时间异质性、高维度以及缺乏内在符号结构的问题。现有的基础模型难以有效捕捉时间序列中的复杂依赖关系，尤其是在长序列预测中，容易丢失关键信息。传统的CNN等模型缺乏对时间序列符号结构的显式建模能力，导致预测精度受限。

核心思路：DRAGON的核心思路是将连续的时间序列数据离散化，然后利用多变量de Bruijn图（MdBGs）将离散化的序列映射到图结构中。这种图结构能够显式地表示时间序列中的符号关系和上下文信息。通过在图上进行注意力机制，DRAGON能够动态地恢复上下文信息，从而增强模型对时间序列的理解和预测能力。

技术框架：DRAGON采用双分支架构，其中一个分支是传统的CNN编码器，另一个分支是基于MdBG的DRAGON模块。DRAGON模块首先将输入的时间序列离散化，然后构建MdBG。接着，利用图神经网络（GNN）在MdBG上进行信息传递和学习。最后，通过注意力机制将DRAGON模块的输出与CNN编码器的输出进行融合，得到最终的预测结果。

关键创新：DRAGON的关键创新在于引入了多变量de Bruijn图（MdBGs）来表示时间序列的符号结构。与传统的序列模型相比，MdBGs能够更有效地捕捉时间序列中的长期依赖关系和上下文信息。此外，DRAGON采用图注意力机制，能够动态地关注重要的上下文信息，从而提高预测精度。

关键设计：DRAGON的关键设计包括：1) 离散化方法：选择合适的离散化方法将连续的时间序列数据转换为离散符号序列。2) MdBG构建：确定MdBG的节点和边的构建方式，以及节点和边的特征表示。3) 图注意力机制：设计有效的图注意力机制，用于在MdBG上进行信息传递和学习。4) 损失函数：设计合适的损失函数，用于训练DRAGON模块和整个模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文提出的DRAGON模型在多个时间序列预测数据集上进行了实验，结果表明DRAGON能够显著提高预测精度。与传统的CNN模型相比，DRAGON在长序列预测任务中表现出更强的优势。具体性能提升数据未知，但摘要强调了DRAGON作为辅助模块增强了CNN编码器的性能。

🎯 应用场景

DRAGON具有广泛的应用前景，例如金融时间序列预测、股票价格预测、气象预测、交通流量预测、工业生产过程监控等。通过对时间序列数据进行符号化表示和结构化建模，DRAGON能够提高预测精度和鲁棒性，为相关领域的决策提供更可靠的依据。未来，DRAGON还可以应用于异常检测、故障诊断等任务。

📄 摘要（原文）

Time series forecasting remains a challenging task for foundation models due to temporal heterogeneity, high dimensionality, and the lack of inherent symbolic structure. In this work, we propose DRAGON (Discrete Representation and Augmented Graph encoding Over de BruijN Graphs), a novel encoder that introduces Multivariate de Bruijn Graphs (MdBGs) to bridge the gap between symbolic representations and neural modeling. DRAGON discretizes continuous input sequences and maps them onto a fixed graph structure, enabling dynamic context recovery via graph-based attention. Integrated as an auxiliary module within a dual-branch architecture, DRAGON augments conventional CNN-based encoders with symbolic, structure-aware representations. All code developed for this study is available at: https://github.com/KurbanIntelligenceLab/MultdBG-Time-Series-Library