PIDM-DP: Physics-Informed Diffusion with Dormand-Prince Integration for Chaotic System Identification and State Reconstruction across Multiple Dynamical Regimes
作者: Shailendra Dabral
分类: cs.LG
发布日期: 2026-05-26
备注: extended work of my journal paper submission
💡 一句话要点
提出PIDM-DP,用于混沌系统识别和跨多动态范围的状态重构
🎯 匹配领域: 支柱四:生成式动作 (Generative Motion)
关键词: 物理信息神经网络 扩散模型 混沌系统 状态重构 Dormand-Prince积分
📋 核心要点
- 从稀疏噪声观测中重构混沌动力系统状态轨迹是一个开放性难题,现有方法难以兼顾精度和稳定性。
- PIDM-DP将可微ODE积分器嵌入扩散模型,并利用物理信息约束轨迹,避免梯度爆炸,提升重构精度。
- 实验表明,PIDM-DP在多个混沌系统上显著优于无约束扩散模型和集成卡尔曼滤波器,尤其在刚性系统上。
📝 摘要(中文)
本文提出了一种基于Dormand-Prince积分的物理信息扩散模型(PIDM-DP),用于从稀疏、含噪声的观测数据中重构混沌动力系统的连续状态轨迹。PIDM-DP将一个完全可微的5阶Dormand-Prince(DP-RK45)ODE积分器直接嵌入到去噪扩散概率模型(DDPM)的反向采样循环中。在每个去噪步骤中,通过自动微分反向传播物理残差,约束每个生成的轨迹满足系统的控制方程,精度达到5阶。线性调度的引导机制将物理权重从高噪声水平下的零值逐渐增加到接近干净数据极限时的全值,防止了梯度爆炸,而梯度爆炸会导致朴素的物理信息方法在具有O(10^3)阶雅可比矩阵特征值的刚性系统上失效。在五个复杂度递增的基准系统(3D Lorenz、3D Rössler、5D Hyperchaotic、20D Lorenz-96和刚性3D Rabinovich-Fabrikant)上,以10%的观测密度和加性高斯噪声(σ=0.05)进行评估,PIDM-DP实现了比无约束扩散基线高达15.4倍的重构RMSE改进,并且在集成协方差崩溃的刚性系统上明显优于集成卡尔曼滤波器。在Rabinovich-Fabrikant分布外基准测试中,PIDM-DP的RMSE为0.1097 ± 0.0269,而无约束扩散为0.9443 ± 0.5288(差8.6倍),EnKF为0.3561 ± 0.3040(差3.2倍),配对Wilcoxon检验中p<0.001(N=30)。通过Rosenstein Lyapunov估计器进行的拓扑验证证实,PIDM-DP保留了混沌不变测度。
🔬 方法详解
问题定义:论文旨在解决从稀疏、含噪声的观测数据中重构混沌动力系统状态轨迹的问题。现有方法,如传统的卡尔曼滤波及其变体,在处理高维、非线性以及刚性系统时,容易出现协方差崩溃或对噪声敏感的问题。而简单的物理信息方法,在面对具有较大雅可比矩阵特征值的刚性系统时,容易发生梯度爆炸,导致训练不稳定。
核心思路:PIDM-DP的核心思路是将物理信息约束融入到去噪扩散概率模型(DDPM)的训练过程中。通过在DDPM的反向采样循环中嵌入一个可微的ODE积分器(Dormand-Prince RK45),并利用自动微分计算物理残差,从而约束生成的轨迹满足系统的控制方程。这种方法结合了扩散模型的生成能力和物理信息的约束能力,能够在噪声环境下更准确地重构状态轨迹。
技术框架:PIDM-DP的整体框架包括以下几个主要模块:1) 前向扩散过程:将数据逐渐加入高斯噪声,直至完全噪声化。2) 反向去噪过程:从高斯噪声出发,逐步去噪,生成状态轨迹。在这个过程中,嵌入了可微的Dormand-Prince RK45 ODE积分器。3) 物理信息约束:在每个去噪步骤中,计算轨迹的物理残差,并将其反向传播,以约束轨迹满足系统的控制方程。4) 线性调度引导:通过线性增加物理信息约束的权重,避免训练初期梯度爆炸。
关键创新:PIDM-DP的关键创新在于将可微ODE积分器嵌入到扩散模型的反向采样循环中,并利用物理信息进行约束。这种方法不同于传统的物理信息神经网络(PINN),它不需要直接求解偏微分方程,而是通过扩散模型的生成能力和物理信息的约束能力,逐步生成满足控制方程的状态轨迹。此外,线性调度引导机制有效地解决了刚性系统中的梯度爆炸问题。
关键设计:PIDM-DP的关键设计包括:1) 使用5阶Dormand-Prince RK45 ODE积分器,保证了较高的积分精度。2) 线性调度引导机制,将物理信息约束的权重从0线性增加到1,避免了训练初期梯度爆炸。3) 损失函数包括扩散模型的去噪损失和物理残差损失,通过调整这两个损失的权重,可以平衡生成质量和物理约束的强度。4) 网络结构采用标准的U-Net结构,用于学习去噪过程。
🖼️ 关键图片
📊 实验亮点
实验结果表明,PIDM-DP在多个混沌系统上显著优于其他方法。例如,在Rabinovich-Fabrikant分布外基准测试中,PIDM-DP的RMSE为0.1097 ± 0.0269,而无约束扩散为0.9443 ± 0.5288(差8.6倍),EnKF为0.3561 ± 0.3040(差3.2倍),配对Wilcoxon检验中p<0.001。在其他基准系统上,PIDM-DP也实现了高达15.4倍的重构RMSE改进。
🎯 应用场景
PIDM-DP可应用于多个领域,如气候预测、流体动力学、生物系统建模等。通过该方法,可以从有限的、含噪声的观测数据中更准确地重构系统的状态,从而进行更可靠的预测和分析。该研究对于理解和控制复杂动力系统具有重要意义,并为相关领域的科学研究和工程应用提供了新的工具。
📄 摘要(原文)
Reconstructing continuous state trajectories of chaotic dynamical systems from sparse, noisy observations remains a fundamental open problem in nonlinear science. We introduce the Physics-Informed Diffusion Model with Dormand-Prince Integration (PIDM-DP), which embeds a fully differentiable 5th-order Dormand-Prince (DP-RK45) ODE integrator directly into the reverse sampling loop of a Denoising Diffusion Probabilistic Model (DDPM). At each denoising step, physics residuals are back-propagated via automatic differentiation, constraining every generated trajectory to satisfy the system's governing equations to 5th-order accuracy. A linear-scheduled guidance mechanism that ramps the physics weight from zero at high noise levels to its full value near the clean-data limit prevents the gradient explosions that cause naive physics-informed approaches to fail on stiff systems with Jacobian eigenvalues of order $O(10^3)$. Evaluated across five benchmark systems of increasing complexity 3D Lorenz, 3D Rössler, 5D Hyperchaotic, 20D Lorenz-96, and the stiff 3D Rabinovich-Fabrikant at 10% observation density with additive Gaussian noise ($σ=0.05$), PIDM-DP achieves reconstruction RMSE improvements of up to $15.4\times$ over an unconstrained diffusion baseline and decisively outperforms the Ensemble Kalman Filter on stiff systems where ensemble covariance collapses. On the Rabinovich-Fabrikant out-of-distribution benchmark, PIDM-DP attains RMSE $0.1097 \pm 0.0269$ versus $0.9443 \pm 0.5288$ (unconstrained diffusion, $8.6\times$ worse) and $0.3561 \pm 0.3040$ (EnKF, $3.2\times$ worse), with $p<0.001$ in paired Wilcoxon tests ($N = 30$). Topological validation via the Rosenstein Lyapunov estimator confirms that PIDM-DP preserves the chaotic invariant measure.