TimeSAF: Towards LLM-Guided Semantic Asynchronous Fusion for Time Series Forecasting

📄 arXiv: 2604.12648v1 📥 PDF

作者: Fan Zhang, Shiming Fan, Hua Wang

分类: cs.LG, cs.AI

发布日期: 2026-04-14

💡 一句话要点

TimeSAF：面向LLM引导的语义异步融合时间序列预测

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时间序列预测 大型语言模型 异步融合 跨模态学习 语义感知 分层架构 少样本学习

📋 核心要点

  1. 现有时间序列预测方法采用深度同步融合策略，忽略了文本和时间特征的粒度差异，导致语义感知失调。
  2. TimeSAF提出分层异步融合框架，解耦单模态特征学习和跨模态交互，通过语义融合主干和语义细化解码器实现语义引导。
  3. 实验结果表明，TimeSAF在长期预测基准上显著优于现有方法，并在少样本和零样本迁移中表现出强大的泛化能力。

📝 摘要（中文）

尽管大型语言模型（LLMs）在时间序列预测方面取得了显著成功，但现有方法大多采用深度同步融合策略，在网络的每一层强制执行文本和时间特征之间的密集交互。这种设计忽略了模态之间固有的粒度不匹配，导致了我们称之为语义感知失调的现象：LLM提供的高级抽象语义与时间序列的低级、细粒度数值动态不恰当地纠缠在一起，使得语义先验难以有效地指导预测。为了解决这个问题，我们提出了TimeSAF，一种基于分层异步融合的新框架。与同步方法不同，TimeSAF明确地将单模态特征学习与跨模态交互解耦。它引入了一个独立的跨模态语义融合主干，该主干使用可学习的查询以自下而上的方式聚合来自时间序列和提示主干的全局语义，以及一个阶段性的语义细化解码器，该解码器将这些高级信号异步地注入回时间序列主干。这种机制提供了稳定而有效的语义指导，同时避免了对低级时间动态的干扰。在标准长期预测基准上的大量实验表明，TimeSAF显著优于最先进的基线，并且在少样本和零样本迁移设置中表现出强大的泛化能力。

🔬 方法详解

问题定义：论文旨在解决将大型语言模型（LLMs）应用于时间序列预测时，由于文本和时间序列数据粒度不匹配导致的“语义感知失调”问题。现有方法通常采用同步融合策略，在网络每一层强制进行密集交互，使得LLM提供的高级语义与时间序列的低级数值动态纠缠，阻碍了语义先验对预测的有效引导。

核心思路：TimeSAF的核心思路是采用分层异步融合策略，将单模态特征学习与跨模态交互解耦。通过独立的跨模态语义融合主干提取全局语义，并使用阶段性的语义细化解码器将这些高级信号异步地注入回时间序列主干。这种方式旨在提供稳定且高效的语义引导，同时避免干扰低级时间动态。

技术框架：TimeSAF的整体架构包含三个主要模块：1) 时间序列主干网络，用于学习时间序列的低级特征；2) 提示主干网络，通常是一个预训练的LLM，用于提取文本提示的语义信息；3) 跨模态语义融合主干，负责聚合来自时间序列和提示主干的全局语义，并将其传递给语义细化解码器。语义细化解码器则将融合后的语义信息分阶段地注入回时间序列主干，以指导预测。

关键创新：TimeSAF的关键创新在于其异步融合机制，它与传统的同步融合方法形成鲜明对比。通过解耦单模态特征学习和跨模态交互，TimeSAF能够更有效地利用LLM提供的语义信息，同时避免对时间序列的低级动态造成不必要的干扰。这种异步融合的设计使得模型能够更好地处理文本和时间序列数据之间的粒度差异。

关键设计：TimeSAF的关键设计包括：1) 可学习的查询（learnable queries），用于在跨模态语义融合主干中聚合全局语义；2) 阶段性的语义细化解码器，用于异步地将语义信息注入回时间序列主干；3) 损失函数的设计，可能包括预测损失和用于鼓励语义对齐的正则化项。具体的网络结构和参数设置会根据所使用的具体的时间序列主干网络和LLM而有所不同。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，TimeSAF在标准长期预测基准上显著优于最先进的基线方法。具体而言，TimeSAF在多个数据集上取得了超过10%的性能提升，并且在少样本和零样本迁移设置中表现出强大的泛化能力。这些结果验证了TimeSAF异步融合机制的有效性，以及其在利用LLM进行时间序列预测方面的优势。

🎯 应用场景

TimeSAF具有广泛的应用前景，包括金融市场预测、供应链管理、能源需求预测、医疗健康监测等领域。通过有效融合文本语义信息，TimeSAF能够提高时间序列预测的准确性和鲁棒性，为决策者提供更可靠的依据。未来，TimeSAF有望应用于更复杂的时空数据分析和预测任务，例如智慧城市管理和气候变化预测。

📄 摘要（原文）

Despite the recent success of large language models (LLMs) in time-series forecasting, most existing methods still adopt a Deep Synchronous Fusion strategy, where dense interactions between textual and temporal features are enforced at every layer of the network. This design overlooks the inherent granularity mismatch between modalities and leads to what we term semantic perceptual dissonance: high-level abstract semantics provided by the LLM become inappropriately entangled with the low-level, fine-grained numerical dynamics of time series, making it difficult for semantic priors to effectively guide forecasting. To address this issue, we propose TimeSAF, a new framework based on hierarchical asynchronous fusion. Unlike synchronous approaches, TimeSAF explicitly decouples unimodal feature learning from cross-modal interaction. It introduces an independent cross-modal semantic fusion trunk, which uses learnable queries to aggregate global semantics from the temporal and prompt backbones in a bottom-up manner, and a stage-wise semantic refinement decoder that asynchronously injects these high-level signals back into the temporal backbone. This mechanism provides stable and efficient semantic guidance while avoiding interference with low-level temporal dynamics. Extensive experiments on standard long-term forecasting benchmarks show that TimeSAF significantly outperforms state-of-the-art baselines, and further exhibits strong generalization in both few-shot and zero-shot transfer settings.