Physics-informed diffusion models in spectral space
作者: Davide Gallon, Philippe von Wurstemberger, Patrick Cheridito, Arnulf Jentzen
分类: cs.LG, cs.AI, cs.CV, math.NA
发布日期: 2026-02-10
备注: 24 pages, 9 figures
🔗 代码/项目: GITHUB
💡 一句话要点
提出基于谱空间的物理信息扩散模型，用于求解参数化偏微分方程。
🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)
关键词: 扩散模型 物理信息机器学习 偏微分方程 谱方法 反问题 科学计算 生成模型
📋 核心要点
- 现有基于网格的扩散模型求解PDE时维度过高，计算成本大，且难以保证解的正则性。
- 论文提出在谱空间中进行扩散，利用谱表示进行降维，并确保扩散过程产生的函数满足PDE算子的定义域要求。
- 实验表明，该方法在泊松方程、亥姆霍兹方程和Navier-Stokes方程上，相比现有扩散模型PDE求解器，精度和效率均有提升。
📝 摘要（中文）
本文提出了一种将生成式潜在扩散模型与物理信息机器学习相结合的方法，用于生成以部分观测为条件的参数化偏微分方程(PDE)的解，特别包括正向和反向PDE问题。我们通过缩放谱表示的潜在空间中的扩散过程来学习PDE参数和解的联合分布，其中高斯噪声对应于具有可控正则性的函数。与基于网格的扩散模型相比，这种谱公式能够显著降低维度，并确保函数空间中的诱导过程保持在PDE算子定义明确的函数类别中。基于扩散后验采样，我们在推理过程中强制执行物理信息约束和测量条件，在每个扩散步骤应用基于Adam的更新。我们在泊松方程、亥姆霍兹方程和不可压缩的纳维-斯托克斯方程上评估了所提出的方法，与现有的基于扩散的PDE求解器相比，证明了其更高的精度和计算效率，这些求解器是稀疏观测下的最先进水平。代码可在https://github.com/deeplearningmethods/PISD 获取。
🔬 方法详解
问题定义：论文旨在解决参数化偏微分方程（PDE）的求解问题，特别是当只有部分观测数据可用时。现有基于扩散模型的PDE求解器，如基于网格的方法，在高维问题中计算成本很高，并且难以保证生成解的正则性，即解是否满足PDE算子的定义域要求。
核心思路：论文的核心思路是在谱空间中进行扩散过程。通过将PDE的解表示为谱系数，可以在低维空间中进行操作，从而降低计算复杂度。此外，谱空间的表示方式可以更好地控制解的正则性，确保解满足PDE算子的要求。
技术框架：整体框架包括以下几个主要阶段：1) 使用扩散模型学习PDE参数和解的联合分布，该分布在谱系数的潜在空间中表示。2) 在推理阶段，利用扩散后验采样，结合物理信息约束和测量条件，逐步优化解。3) 在每个扩散步骤中，使用基于Adam的优化器来更新解，以满足物理定律和观测数据。
关键创新：最重要的技术创新点在于将扩散模型与谱方法相结合，并在谱空间中进行扩散过程。这与传统的基于网格的扩散模型有本质区别，后者直接在原始图像或函数空间中进行扩散，维度高，计算量大。谱方法能够有效地降维，并保证解的正则性。
关键设计：论文的关键设计包括：1) 使用缩放的谱表示作为潜在空间，以便更好地控制解的正则性。2) 在推理过程中，使用物理信息约束和测量条件来指导扩散过程，确保生成的解满足PDE和观测数据。3) 使用基于Adam的优化器在每个扩散步骤中更新解，以提高收敛速度和精度。具体的损失函数设计未知，但推测包含物理残差项和数据拟合项。
🖼️ 关键图片
📊 实验亮点
论文在泊松方程、亥姆霍兹方程和不可压缩的纳维-斯托克斯方程上进行了实验，结果表明，与现有的基于扩散的PDE求解器相比，该方法在精度和计算效率方面均有显著提升。具体的性能数据未知，但论文强调该方法在稀疏观测条件下表现出色，表明其具有较强的泛化能力和鲁棒性。
🎯 应用场景
该研究成果可应用于科学计算、工程设计等领域，例如流体动力学、热传导、电磁学等。通过该方法，可以更高效、更准确地求解复杂的PDE问题，从而加速相关领域的研发进程，并降低计算成本。未来，该方法有望扩展到更广泛的PDE问题，并与其他机器学习技术相结合，实现更强大的PDE求解能力。
📄 摘要（原文）
We propose a methodology that combines generative latent diffusion models with physics-informed machine learning to generate solutions of parametric partial differential equations (PDEs) conditioned on partial observations, which includes, in particular, forward and inverse PDE problems. We learn the joint distribution of PDE parameters and solutions via a diffusion process in a latent space of scaled spectral representations, where Gaussian noise corresponds to functions with controlled regularity. This spectral formulation enables significant dimensionality reduction compared to grid-based diffusion models and ensures that the induced process in function space remains within a class of functions for which the PDE operators are well defined. Building on diffusion posterior sampling, we enforce physics-informed constraints and measurement conditions during inference, applying Adam-based updates at each diffusion step. We evaluate the proposed approach on Poisson, Helmholtz, and incompressible Navier--Stokes equations, demonstrating improved accuracy and computational efficiency compared with existing diffusion-based PDE solvers, which are state of the art for sparse observations. Code is available at https://github.com/deeplearningmethods/PISD.