BeamVQ: Beam Search with Vector Quantization to Mitigate Data Scarcity in Physical Spatiotemporal Forecasting

📄 arXiv: 2502.18925v1 📥 PDF

作者: Weiyan Wang, Xingjian Shi, Ruiqi Shu, Yuan Gao, Rui Ray Chen, Kun Wang, Fan Xu, Jinbao Xue, Shuaipeng Li, Yangyu Tao, Di Wang, Hao Wu, Xiaomeng Huang

分类: cs.LG, cs.AI

发布日期: 2025-02-26

💡 一句话要点

提出BeamVQ，利用向量量化和Beam Search缓解物理时空预测中的数据稀缺问题

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 物理时空预测 数据稀缺 向量量化 Beam Search 自集成 极端事件预测 迭代自训练

📋 核心要点

  1. 物理时空预测面临数据稀缺挑战，尤其是在极端事件中，大规模数据收集困难。
  2. BeamVQ利用向量量化和Beam Search，通过自集成策略进行迭代自训练，提升物理一致性和泛化能力。
  3. 实验表明，BeamVQ显著降低了预测MSE（高达39%），并增强了极端事件的检测能力。

📝 摘要（中文）

本文提出BeamVQ，一种新颖的概率框架，通过新的自集成策略实现迭代自训练，从而在极端事件上实现更好的物理一致性和泛化能力。在任何基础预测模型之后，我们可以将其确定性输出编码到潜在空间中，并检索多个码本条目以生成概率输出。然后，BeamVQ将Beam Search从离散空间扩展到该领域的连续状态空间。我们可以进一步使用特定领域的指标（例如，极端事件的关键成功指数）来过滤掉前k个候选者，并通过组合高质量的候选者来开发新的自集成策略。自集成不仅可以提高推理质量和鲁棒性，还可以在连续自训练期间迭代地扩充训练数据集。因此，BeamVQ实现了对原始数据集之外的罕见但关键现象的探索。在不同基准和骨干网络上的综合实验表明，BeamVQ始终如一地降低了预测MSE（高达39%），增强了极端事件检测，并证明了其在处理数据稀缺方面的有效性。

🔬 方法详解

问题定义：物理时空预测，特别是极端事件的预测，面临着数据稀缺的挑战。传统的预测模型在数据量不足的情况下，难以捕捉到罕见但重要的现象，导致预测精度下降，泛化能力不足。

核心思路：BeamVQ的核心思路是利用向量量化（Vector Quantization）将确定性预测模型的输出映射到潜在空间，并通过Beam Search在潜在空间中探索多个可能的预测结果。通过自集成策略，将高质量的候选预测结果进行组合，从而提高预测的鲁棒性和准确性，并迭代地扩充训练数据集。

技术框架：BeamVQ的整体框架包括以下几个主要阶段：1) 使用基础预测模型进行确定性预测；2) 将确定性预测结果编码到潜在空间；3) 使用向量量化检索多个码本条目，生成概率输出；4) 使用Beam Search在连续状态空间中搜索多个候选预测结果；5) 使用领域特定指标（如CSI）过滤候选结果；6) 通过自集成策略组合高质量候选结果，并迭代地扩充训练数据集。

关键创新：BeamVQ的关键创新在于将Beam Search从离散空间扩展到连续状态空间，并结合向量量化和自集成策略，从而在数据稀缺的情况下实现更好的预测性能。与传统的确定性预测模型相比，BeamVQ能够探索更多的可能性，并利用自集成策略提高预测的鲁棒性。

关键设计：BeamVQ的关键设计包括：1) 向量量化的码本大小和维度；2) Beam Search的宽度（beam size）；3) 自集成策略中候选结果的权重分配；4) 领域特定指标的选择（如CSI）；5) 迭代自训练的次数和学习率。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，BeamVQ在不同基准数据集和骨干网络上均取得了显著的性能提升。具体而言，BeamVQ能够降低预测MSE高达39%，并显著增强了极端事件的检测能力。这些结果证明了BeamVQ在处理数据稀缺问题方面的有效性，并验证了其在实际应用中的潜力。

🎯 应用场景

BeamVQ可应用于各种物理时空预测领域，如气象预报、海洋环境预测、交通流量预测等。尤其在极端事件预测方面，如台风、洪水、地震等，具有重要的应用价值。该研究有助于提高预测精度，降低灾害风险，为相关领域的决策提供更可靠的依据。

📄 摘要（原文）

In practice, physical spatiotemporal forecasting can suffer from data scarcity, because collecting large-scale data is non-trivial, especially for extreme events. Hence, we propose \method{}, a novel probabilistic framework to realize iterative self-training with new self-ensemble strategies, achieving better physical consistency and generalization on extreme events. Following any base forecasting model, we can encode its deterministic outputs into a latent space and retrieve multiple codebook entries to generate probabilistic outputs. Then BeamVQ extends the beam search from discrete spaces to the continuous state spaces in this field. We can further employ domain-specific metrics (e.g., Critical Success Index for extreme events) to filter out the top-k candidates and develop the new self-ensemble strategy by combining the high-quality candidates. The self-ensemble can not only improve the inference quality and robustness but also iteratively augment the training datasets during continuous self-training. Consequently, BeamVQ realizes the exploration of rare but critical phenomena beyond the original dataset. Comprehensive experiments on different benchmarks and backbones show that BeamVQ consistently reduces forecasting MSE (up to 39%), enhancing extreme events detection and proving its effectiveness in handling data scarcity.