FreSia: Frequency-Semantic Instantiation and Alignment for Multivariate Time Series Analysis

📄 arXiv: 2610.05726v1 📥 PDF

作者: Yubo Wang, Hui He, Hezhe Qiao, Guoqing Ji, Zhendong Niu

分类: cs.AI

发布日期: 2026-10-05

备注: Accept by Pattern Recongnition

💡 一句话要点

提出FreSia以解决多变量时间序列分析中的结构感知问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多变量时间序列 大型语言模型 频率感知 异常检测 上下文学习

📋 核心要点

  1. 现有方法在将时间序列信息注入大型语言模型时，难以捕捉数值序列中的季节性和趋势成分。
  2. FreSia通过频率引导提示机制和全球驱动的上下文学习，建立了语义空间与频率空间的有效对齐。
  3. 在八个预测基准上的实验结果显示，FreSia在MSE和MAE上分别提升了13.48%和8.06%。

📝 摘要（中文）

大型语言模型（LLMs）在多变量时间序列预测和异常检测中展现出强大的潜力。然而，现有研究主要通过直接数值标记或启发式文本描述将时间信息注入LLMs，导致其难以感知数值时间序列的潜在结构模式，尤其是被离散数值标记掩盖的季节性和趋势成分。为了解决这一问题，本文提出了FreSia，一个频率感知框架，建立了LLMs的语义空间与时间序列的频率空间之间的有效对齐。具体而言，FreSia中的频率引导提示机制（FGPrompt）提取时间序列的频率域结构，并将其投影到适合LLMs语义空间的提示中。此外，我们引入了全球驱动的上下文学习（GCL）组件，利用全球CLS驱动探针生成全球上下文，以弥合时频域之间的差距并融合多模态信息。在八个预测基准上的实验表明，FreSia在均方误差（MSE）和平均绝对误差（MAE）上分别实现了13.48%和8.06%的平均提升。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在多变量时间序列分析中对潜在结构模式的感知不足，现有方法难以有效捕捉时间序列的季节性和趋势成分。

核心思路：FreSia通过频率感知机制，将时间序列的频率域结构转化为适合LLMs的提示，从而增强模型对时间序列的理解能力。

技术框架：FreSia的整体架构包括频率引导提示机制（FGPrompt）和全球驱动的上下文学习（GCL）组件，前者提取频率信息，后者生成全局上下文以融合多模态信息。

关键创新：FreSia的主要创新在于通过频率引导机制实现了语义空间与频率空间的有效对齐，克服了传统方法的局限性。

关键设计：在设计中，FGPrompt通过频率域分析提取时间序列特征，GCL组件利用CLS驱动探针生成全局上下文，确保了信息的有效融合与传递。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

FreSia在八个预测基准上表现出色，均方误差（MSE）平均提升13.48%，平均绝对误差（MAE）提升8.06%。这些结果表明，FreSia在多变量时间序列分析中显著优于现有方法，展示了其强大的实用性和有效性。

🎯 应用场景

FreSia在多变量时间序列分析中的应用潜力巨大，尤其适用于金融市场预测、环境监测和工业设备故障检测等领域。通过提高模型对时间序列结构的理解，FreSia能够为决策提供更为精准的支持，推动相关领域的智能化发展。

📄 摘要（原文）

Large Language Models (LLMs) have shown strong potential in multivariate time series forecasting and anomaly detection. Existing studies predominantly inject temporal information into LLMs via direct numerical tokenization or heuristic textual descriptions. However, LLMs still face difficulty in perceiving the underlying structural patterns of numerical time series, particularly the seasonal and trend components obscured by discrete numerical tokens. To bridge this gap, we propose FreSia, a frequency-aware framework that establishes an effective alignment between the semantic space of LLMs and the frequency space of time series. Specifically, FGPrompt, a Frequency-Guided Prompt mechanism within FreSia, distills the frequency-domain structures of time series and projects them into prompts tailored to the semantic space of LLMs. Furthermore, we introduce a Global-driven Context Learning (GCL) component, which uses a global CLS-driven probe to generate global context to bridge the time-frequency domain gap and fuse the multi-modal information. Experiments on eight forecasting benchmarks show that FreSia achieves average improvements of 13.48% and 8.06% in MSE and MAE, respectively.