VLBM: Variational Latent Basis Modeling for OOD Robust Multivariate Time Series Forecasting

📄 arXiv: 2606.02138v1 📥 PDF

作者: Xudong Zhang, Jierui Lei, Jiacheng Li, Lingdong Shen, Jian Cui, Haina Tang

分类: cs.LG, cs.AI

发布日期: 2026-06-01

🔗 代码/项目: GITHUB

💡 一句话要点

提出VLBM以解决多变量时间序列预测中的OOD鲁棒性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱八：物理动画 (Physics-based Animation)

关键词: 变分潜在基模型 多变量时间序列 分布外鲁棒性 预测模型 风险管理 智能决策 数据分解

📋 核心要点

  1. 现有方法在处理多变量时间序列预测时，无法有效应对稀有的OOD事件，导致预测的可靠性不足。
  2. VLBM通过变分潜在基模型，分离稳定动态与OOD偏差，学习共享潜在基，提升了模型的鲁棒性。
  3. 在12个基准任务中，VLBM在OOD鲁棒性和ID准确性上均超越了最强基线，MAE和MSE分别提升了15.08%和7.74%。

📝 摘要（中文）

在多变量时间序列预测中，OOD（分布外）事件虽然稀少，但常常主导实际风险，使得平均情况预测不足以支持可靠部署。在标准的平均风险训练下，稀有的OOD事件的优化信号可能被频繁的ID（分布内）模式淹没，导致强基准准确性在高影响转变下无法转化为可靠性。为了解决这一问题，本文提出了VLBM（变分潜在基模型），该框架通过分离稳定动态与OOD引起的偏差，学习共享潜在基，定义稳定ID动态的低秩子空间，明确地将输入分解为基子空间组件和正交残差组件，并对齐未来感知后验与未来盲前验，从而使得测试时的潜在推断仅依赖于历史输入。实验结果表明，VLBM在多个基准任务中实现了OOD鲁棒性和ID准确性的最佳表现。

🔬 方法详解

问题定义：本文旨在解决多变量时间序列预测中的OOD事件对模型性能的影响。现有方法在处理混合ID/OOD分布时，稀有的OOD事件信号常常被频繁的ID模式淹没，导致预测结果不可靠。

核心思路：VLBM的核心思路是通过变分潜在基模型来分离稳定的ID动态与OOD引起的偏差。该方法通过学习共享潜在基，明确分解输入数据，从而提高模型在OOD条件下的鲁棒性。

技术框架：VLBM的整体架构包括三个主要模块：首先，学习共享潜在基以定义低秩子空间；其次，将输入数据分解为基子空间组件和正交残差组件；最后，对齐未来感知后验与未来盲前验，以确保测试时的潜在推断仅依赖于历史输入。

关键创新：VLBM的主要创新在于其理论指导的潜在预测框架，能够有效分离和处理OOD引起的动态偏差，与现有方法相比，提供了更为稳健的预测能力。

关键设计：在模型设计中，VLBM采用了特定的损失函数来优化潜在基的学习，并通过正交分解确保输入的有效性。此外，模型结构中引入了未来感知与未来盲的对齐机制，以增强模型的预测能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

VLBM在12个基准任务中实现了OOD鲁棒性和ID准确性的最佳表现，MAE和MSE分别提升了15.08%和7.74%。在合成模拟数据集上，VLBM也持续表现出最佳性能，能够更好地追踪OOD脉冲恢复，显示出其在复杂预测任务中的优势。

🎯 应用场景

VLBM模型在交通、天气、电力系统等多个实际领域具有广泛的应用潜力。其在处理稀有事件的鲁棒性使其适用于金融风险预测、灾害预警等高风险场景，未来可能推动相关领域的智能决策与风险管理。

📄 摘要（原文）

Out of distribution (OOD) events in multivariate time series forecasting are rare but often dominate real world risk, making average case forecasting insufficient for reliable deployment. Under standard average risk training on mixed ID/OOD distributions, optimization signals from rare OOD events can be overwhelmed by frequent in distribution (ID) patterns, so strong benchmark accuracy may not translate into reliability under high impact shifts. To address this issue, we propose VLBM (Variational Latent Basis Model), a theory guided latent forecasting framework that separates stable dynamics from OOD induced deviations. VLBM learns a shared latent basis that defines a low rank subspace for stable ID dynamics, explicitly decomposes inputs into basis subspace components and orthogonal residual components, and aligns a future aware posterior with a future blind prior so that test time latent inference depends only on historical input. Across 12 benchmark tasks spanning transportation, weather, power systems, and other real world domains, including newly constructed real world OOD traffic datasets, VLBM achieves state of the art OOD robustness and ID accuracy, with average MAE and MSE gains of 15.08\% and 7.74\% over the strongest baseline. On a synthetic simulation dataset, VLBM also consistently achieves the best performance and better tracks OOD pulse recovery. These results support latent structured forecasting as a principled route to robust prediction under mixed ID and OOD conditions. The code is available at https://github.com/leijieruilq/VLBM_OOD_forecast.