MultiPDENet: PDE-embedded Learning with Multi-time-stepping for Accelerated Flow Simulation

📄 arXiv: 2501.15987v1 📥 PDF

作者: Qi Wang, Yuan Mi, Haoyun Wang, Yi Zhang, Ruizhi Chengze, Hongsheng Liu, Ji-Rong Wen, Hao Sun

分类: math.NA, cs.AI

发布日期: 2025-01-27

💡 一句话要点

MultiPDENet：融合多时间步进的PDE嵌入学习加速流动模拟

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: PDE嵌入学习 多时间步进 流动模拟 深度学习 偏微分方程 Navier-Stokes方程 时空预测

📋 核心要点

  1. 传统数值方法求解PDE计算成本高昂，机器学习方法虽能加速，但泛化性、可解释性弱，且依赖大量数据，长期预测易出错。
  2. MultiPDENet融合数值方法与机器学习，利用卷积滤波器在粗网格上估计空间导数，并用物理块嵌入PDE结构指导预测。
  3. 实验表明，即使在小规模、不完整的数据集上，MultiPDENet也能准确预测长期时空动态，性能优于其他基线模型，并加速计算。

📝 摘要（中文）

本文提出了一种具有多尺度时间步进的PDE嵌入网络(MultiPDENet)，它融合了数值方法和机器学习的方案，用于加速流动模拟。具体来说，我们设计了一个基于有限差分格式结构的卷积滤波器，该滤波器具有少量参数需要优化，用于估计粗网格上空间导数的等效形式，以最小化方程的残差。建立了一个具有精细时间尺度四阶龙格-库塔积分器的物理块，该物理块嵌入了PDE的结构来指导预测。为了减轻长期预测中时间误差累积的问题，我们引入了一种多尺度时间积分方法，其中神经网络用于校正粗时间尺度上的预测误差。跨越各种PDE系统（包括Navier-Stokes方程）的实验表明，即使在小型和不完整的训练数据（例如，时空下采样数据集）的情况下，MultiPDENet也可以准确地预测长期时空动力学。与其他神经基线模型相比，MultiPDENet实现了最先进的性能，并且与经典数值方法相比，具有明显的加速效果。

🔬 方法详解

问题定义：传统数值方法在求解偏微分方程（PDE）时，为了获得精确解，需要精细的网格和较小的时间步长，导致计算成本巨大。现有的机器学习方法虽然可以加速这一过程，但存在泛化能力弱、可解释性差、对数据依赖性强等问题，尤其是在长期预测中容易出现误差累积。

核心思路：MultiPDENet的核心思路是将数值方法和机器学习相结合，利用数值方法的结构来指导神经网络的设计，从而提高模型的泛化能力和可解释性。通过在粗网格上学习空间导数的等效形式，并利用物理块嵌入PDE的结构，可以有效地减少计算量，并提高预测的准确性。

技术框架：MultiPDENet的整体架构包含以下几个主要模块： 1. 卷积滤波器：用于在粗网格上估计空间导数的等效形式，最小化方程的残差。 2. 物理块：包含一个四阶龙格-库塔积分器，嵌入了PDE的结构，用于指导预测。 3. 多尺度时间积分：使用神经网络在粗时间尺度上校正预测误差，减轻长期预测中的误差累积。

关键创新：MultiPDENet的关键创新在于以下几点： 1. PDE嵌入：通过物理块将PDE的结构嵌入到神经网络中，提高了模型的可解释性和泛化能力。 2. 多尺度时间步进：利用多尺度时间积分方法，有效地减轻了长期预测中的误差累积。 3. 卷积滤波器设计：基于有限差分格式结构设计卷积滤波器，减少了参数数量，提高了计算效率。

关键设计： 1. 卷积滤波器：基于有限差分格式的结构设计，参数数量较少，易于优化。 2. 物理块：使用四阶龙格-库塔积分器，保证了预测的精度。 3. 多尺度时间积分：使用神经网络校正粗时间尺度上的预测误差，损失函数可能包含预测值与真实值之间的差异，以及正则化项以防止过拟合。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MultiPDENet在各种PDE系统（包括Navier-Stokes方程）上均表现出色，即使在小规模和不完整的训练数据（例如，时空下采样数据集）的情况下，也能准确预测长期时空动态。与其他神经基线模型相比，MultiPDENet实现了最先进的性能，并且与经典数值方法相比，具有明显的加速效果。具体性能数据未知，但强调了其在数据量小的情况下仍能保持高性能的优势。

🎯 应用场景

MultiPDENet可应用于各种涉及偏微分方程的流动模拟场景，例如：空气动力学、流体力学、热传导等。该方法能够加速仿真过程，降低计算成本，并提高预测精度，尤其适用于需要长期预测和实时仿真的应用，例如：天气预报、气候模拟、飞行器设计等。

📄 摘要（原文）

Solving partial differential equations (PDEs) by numerical methods meet computational cost challenge for getting the accurate solution since fine grids and small time steps are required. Machine learning can accelerate this process, but struggle with weak generalizability, interpretability, and data dependency, as well as suffer in long-term prediction. To this end, we propose a PDE-embedded network with multiscale time stepping (MultiPDENet), which fuses the scheme of numerical methods and machine learning, for accelerated simulation of flows. In particular, we design a convolutional filter based on the structure of finite difference stencils with a small number of parameters to optimize, which estimates the equivalent form of spatial derivative on a coarse grid to minimize the equation's residual. A Physics Block with a 4th-order Runge-Kutta integrator at the fine time scale is established that embeds the structure of PDEs to guide the prediction. To alleviate the curse of temporal error accumulation in long-term prediction, we introduce a multiscale time integration approach, where a neural network is used to correct the prediction error at a coarse time scale. Experiments across various PDE systems, including the Navier-Stokes equations, demonstrate that MultiPDENet can accurately predict long-term spatiotemporal dynamics, even given small and incomplete training data, e.g., spatiotemporally down-sampled datasets. MultiPDENet achieves the state-of-the-art performance compared with other neural baseline models, also with clear speedup compared to classical numerical methods.