Curriculum Learning of Physics-Informed Neural Networks based on Spatial Correlation
作者: Xujia Chen, Xinyue Hu, Letian Chen, Daming Shi, Wenhui Fan
分类: cs.LG
发布日期: 2026-05-14
备注: 37 pages, 14 figures, 9 tables
🔗 代码/项目: GITHUB
💡 一句话要点
提出基于空间相关的课程学习PINN框架,提升偏微分方程求解精度。
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)
关键词: 物理信息神经网络 课程学习 空间相关性 偏微分方程 深度学习
📋 核心要点
- PINN训练面临高维非凸损失面和信息传播问题,现有课程学习方法缺乏对空间信息的有效利用。
- 提出空间相关的课程学习框架,利用空间因果权重引导信息传播,并使用低频信息桥保证区域一致性。
- 实验表明,该方法在相当的计算成本下,能有效缓解训练失败,并提高偏微分方程的求解精度。
📝 摘要(中文)
物理信息神经网络(PINN)结合深度学习与物理约束来求解偏微分方程(PDEs),广泛应用于流体力学、传热和固体力学等领域。然而,PINN训练仍然面临高维非凸损失面、不平衡的多目标约束以及无效的信息传播等问题。现有的课程学习和因果关系引导策略虽然提高了训练稳定性,但主要集中在时间或参数的渐进上,缺乏对空间信息传播和区域间一致性的显式处理,并且不能直接应用于具有强空间耦合的边值问题(BVPs)。为了解决这个问题,我们提出了一种用于PINN的空间相关课程学习框架。据我们所知,这是第一个从子区域空间耦合的角度解决PINN训练困难的工作。首先,空间因果权重引导信息从近边界区域向内传播,减少了优化失败和虚假收敛。其次,低频信息桥强制执行跨空间分离区域的基于伪标签的一致性,抑制全局低频漂移。第三,区域自适应重加权策略调整子区域损失,以减少局部残差并恢复高频细节。在PDE基准上的实验表明,在相当的计算成本下,所提出的方法减轻了训练失败并提高了求解精度。代码可在https://github.com/pigofmomo/CurriculumLearningPINN获取。
🔬 方法详解
问题定义:PINN在求解偏微分方程时,由于损失函数的高度非凸性、多目标优化以及空间信息传播不充分,容易出现训练失败和精度不足的问题。特别是在具有强空间耦合的边值问题中,不同区域的信息交互至关重要,而现有方法对此考虑不足。
核心思路:论文的核心思路是从空间耦合的角度出发,设计课程学习策略,引导PINN学习。通过模拟物理信息在空间中的传播过程,逐步引入难度,从而提高训练的稳定性和精度。具体来说,利用空间因果关系引导信息从边界向内部传播,并利用低频信息桥来保证空间分离区域的一致性。
技术框架:该方法包含三个主要模块:1) 空间因果权重:用于引导信息从近边界区域向内传播,减少优化失败和虚假收敛。2) 低频信息桥:通过伪标签强制执行跨空间分离区域的一致性,抑制全局低频漂移。3) 区域自适应重加权:调整子区域损失,以减少局部残差并恢复高频细节。整体流程是先利用空间因果权重进行预训练,然后利用低频信息桥进行全局一致性约束,最后通过区域自适应重加权进行精细调整。
关键创新:该方法最重要的创新点在于从空间耦合的角度设计课程学习策略。与以往主要关注时间或参数渐进的课程学习方法不同,该方法显式地考虑了空间信息传播和区域间一致性,更符合物理问题的特性。此外,利用空间因果权重和低频信息桥的设计,有效地解决了PINN训练中的信息传播和全局一致性问题。
关键设计:空间因果权重的设计基于空间距离,距离边界越近的区域权重越高,引导信息从边界向内部传播。低频信息桥通过在空间分离的区域之间引入伪标签,并最小化这些伪标签之间的差异来实现一致性约束。区域自适应重加权根据每个区域的残差大小动态调整权重,使得残差较大的区域得到更多的关注。损失函数由三部分组成:PDE残差损失、边界条件损失和低频信息桥损失。网络结构采用标准的多层感知机(MLP)。
🖼️ 关键图片
📊 实验亮点
实验结果表明,在多个PDE基准测试中,该方法在相当的计算成本下,能够有效缓解PINN训练失败的问题,并显著提高求解精度。具体数据提升幅度未知,但论文强调了其在训练稳定性和精度方面的优势。
🎯 应用场景
该研究成果可广泛应用于涉及偏微分方程求解的领域,如流体力学、传热学、固体力学等。例如,可以用于模拟复杂流体流动、预测热传导过程、分析结构力学行为等。该方法能够提高求解精度和稳定性,为工程设计和科学研究提供更可靠的工具,具有重要的实际应用价值和潜在的未来影响。
📄 摘要(原文)
Physics-Informed Neural Networks (PINNs) combine deep learning with physical constraints for solving partial differential equations (PDEs), and are widely applied in fluid mechanics, heat transfer, and solid mechanics. However, PINN training still suffers from high-dimensional non-convex loss landscapes, imbalanced multiobjective constraints, and ineffective information propagation. Existing curriculum learning and causality-guided strategies improve training stability, but mainly focus on temporal or parametric progression, lacking explicit treatment of spatial information propagation and inter-region consistency. Moreover, they are not directly applicable to boundary value problems (BVPs) with strong spatial coupling. To address this issue, we propose a spatially correlated curriculum learning framework for PINNs. To the best of our knowledge, this is the first work to address PINN training difficulties from the perspective of spatial coupling among subregions. First, spatial causal weights guide information from near-boundary regions inward, reducing optimization failures and spurious convergence. Second, a low-frequency information bridge enforces pseudo-label-based consistency across spatially separated regions, suppressing global low-frequency drift. Third, a region-adaptive reweighting strategy adjusts subregion losses to reduce local residuals and recover high-frequency details. Experiments on PDE benchmarks show that, under comparable computational cost, the proposed method alleviates training failures and improves solution accuracy. The code is available at https://github.com/pigofmomo/CurriculumLearningPINN.