Precipitation Nowcasting Using Diffusion Transformer with Causal Attention

📄 arXiv: 2410.13314v1 📥 PDF

作者: ChaoRong Li, XuDong Ling, YiLan Xue, Wenjie Luo, LiHong Zhu, FengQing Qin, Yaodong Zhou, Yuanyuan Huang

分类: cs.LG, cs.AI, cs.CV

发布日期: 2024-10-17

💡 一句话要点

提出基于因果注意力扩散Transformer的降水临近预报模型，显著提升强降水预测精度。

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 降水临近预报 扩散模型 Transformer 因果注意力 时空依赖 深度学习 气象预报

📋 核心要点

  1. 现有深度学习方法难以有效捕捉降水临近预报中的长期时空依赖关系，且缺乏对预测结果的解释性。
  2. 论文提出基于因果注意力扩散Transformer的模型DTCA，通过因果注意力机制建立条件信息与预测结果的时空查询。
  3. 实验结果表明，DTCA模型在强降水预测的CSI指标上显著优于现有U-Net方法，提升幅度分别达到15%和8%。

📝 摘要（中文）

本文提出了一种基于因果注意力扩散Transformer的降水临近预报模型（DTCA），旨在解决短期降水预测中长期时空依赖关系难以捕捉的问题。现有深度学习方法在条件信息和预测结果之间建立有效依赖关系方面存在不足，并且缺乏可解释性。DTCA模型利用Transformer并结合因果注意力机制，在条件信息（原因）和预测结果（结果）之间建立时空查询，从而有效地捕获长期依赖关系，使预测结果在较长时间和空间范围内与输入条件保持较强的因果关系。论文探索了DTCA中四种时空信息交互方式，结果表明全局时空标签交互效果最佳。此外，引入了Channel-To-Batch移位操作，以进一步增强模型表示复杂降雨动态的能力。在两个数据集上的实验表明，与最先进的基于U-Net的方法相比，该方法在强降水预测的CSI（临界成功指数）上分别提高了约15%和8%，达到了最先进的性能。

🔬 方法详解

问题定义：论文旨在解决短期降水预测中，现有深度学习方法难以有效捕捉长期时空依赖关系的问题。现有方法无法在条件信息（如历史雷达图）和预测结果之间建立有效的依赖关系，导致预测精度不高，尤其是在强降水预测方面。此外，现有方法缺乏可解释性，难以理解预测结果的成因。

核心思路：论文的核心思路是利用Transformer模型强大的时空建模能力，并引入因果注意力机制，从而在条件信息和预测结果之间建立明确的因果关系。通过这种方式，模型可以更好地理解降水系统的演变过程，并做出更准确的预测。扩散模型也被用于生成更逼真的降水预测结果。

技术框架：DTCA模型的整体架构基于Transformer，主要包括以下几个模块：1) 输入编码模块：将雷达图等输入数据编码成高维特征表示。2) Transformer模块：利用自注意力机制捕捉时空依赖关系，并使用因果注意力机制建立条件信息和预测结果之间的因果关系。3) 扩散模型模块：通过逐步去噪的方式生成最终的降水预测结果。4) 输出解码模块：将高维特征表示解码成降水强度图。

关键创新：论文的关键创新在于以下几点：1) 引入因果注意力机制，显式地建模条件信息和预测结果之间的因果关系。2) 提出Channel-To-Batch移位操作，增强模型对复杂降雨动态的表示能力。3) 探索了四种不同的时空信息交互方式，并发现全局时空标签交互效果最佳。

关键设计：在Transformer模块中，使用了多头注意力机制，以捕捉不同尺度的时空依赖关系。因果注意力机制通过mask机制，确保预测结果只能依赖于过去的条件信息。Channel-To-Batch移位操作将通道维度的信息转移到batch维度，从而增加了模型的感受野。损失函数方面，使用了均方误差（MSE）损失和对抗损失，以提高预测精度和生成质量。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，DTCA模型在两个数据集上均取得了显著的性能提升。与最先进的基于U-Net的方法相比，DTCA模型在强降水预测的CSI指标上分别提高了约15%和8%，达到了state-of-the-art的水平。这表明DTCA模型能够更有效地捕捉长期时空依赖关系，并做出更准确的降水预测。

🎯 应用场景

该研究成果可应用于气象预报领域，为城市防洪、农业生产、交通运输等提供更准确的降水预报信息。通过提高强降水预测的准确性，可以有效减少自然灾害带来的损失，保障人民生命财产安全。未来，该模型可以进一步扩展到其他气象要素的预测，例如温度、风速等，为更全面的气象服务提供技术支持。

📄 摘要（原文）

Short-term precipitation forecasting remains challenging due to the difficulty in capturing long-term spatiotemporal dependencies. Current deep learning methods fall short in establishing effective dependencies between conditions and forecast results, while also lacking interpretability. To address this issue, we propose a Precipitation Nowcasting Using Diffusion Transformer with Causal Attention model. Our model leverages Transformer and combines causal attention mechanisms to establish spatiotemporal queries between conditional information (causes) and forecast results (results). This design enables the model to effectively capture long-term dependencies, allowing forecast results to maintain strong causal relationships with input conditions over a wide range of time and space. We explore four variants of spatiotemporal information interactions for DTCA, demonstrating that global spatiotemporal labeling interactions yield the best performance. In addition, we introduce a Channel-To-Batch shift operation to further enhance the model's ability to represent complex rainfall dynamics. We conducted experiments on two datasets. Compared to state-of-the-art U-Net-based methods, our approach improved the CSI (Critical Success Index) for predicting heavy precipitation by approximately 15% and 8% respectively, achieving state-of-the-art performance.