Unlocking Out-of-Distribution Generalization in Dynamics through Physics-Guided Augmentation

📄 arXiv: 2510.24216v1 📥 PDF

作者: Fan Xu, Hao Wu, Kun Wang, Nan Wang, Qingsong Wen, Xian Wu, Wei Gong, Xibin Zhao

分类: cs.LG

发布日期: 2025-10-28

💡 一句话要点

提出SPARK，通过物理引导增强提升动态系统建模的泛化能力

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)

关键词: 动态系统建模 物理引导增强 分布外泛化 数据稀缺 图神经网络

📋 核心要点

  1. 传统动态系统建模方法面临计算成本高和数据驱动方法泛化性差的挑战，尤其是在数据稀缺和分布偏移的情况下。
  2. SPARK通过构建物理状态字典，并在潜在空间中进行插值，生成物理上合理的增强数据，从而提升模型的泛化能力。
  3. 实验表明，SPARK在各种基准测试中显著优于现有方法，尤其是在分布外泛化和数据稀缺场景下，验证了其有效性。

📝 摘要（中文）

在动态系统建模中，传统数值方法计算成本高昂，而现代数据驱动方法在数据稀缺和分布偏移方面表现不佳。为了解决这些根本限制，我们首先提出了SPARK，一个物理引导的定量增强插件。具体来说，SPARK利用重建自编码器将物理参数集成到物理丰富的离散状态字典中。然后，该状态字典充当物理状态的结构化字典，从而可以通过潜在空间中的原则性插值来创建新的、物理上合理的训练样本。此外，对于下游预测，这些增强的表示与傅里叶增强的图ODE无缝集成，这种组合旨在稳健地建模丰富的数据分布，同时捕获长期时间依赖性。在各种基准上的大量实验表明，SPARK显著优于最先进的基线，尤其是在具有挑战性的分布外场景和数据稀缺情况下，证明了我们的物理引导增强范例的有效性。

🔬 方法详解

问题定义：论文旨在解决动态系统建模中，数据驱动方法在数据稀缺和分布偏移情况下泛化能力不足的问题。现有方法要么依赖大量数据，要么难以适应训练数据与实际应用场景的差异，导致模型性能下降。

核心思路：论文的核心思路是利用物理知识来指导数据增强，从而生成更多样化、更符合物理规律的训练数据。通过将物理参数融入数据表示中，并利用这些参数进行插值，可以有效地扩展训练数据集，提高模型的泛化能力。

技术框架：SPARK包含两个主要模块：物理引导的定量增强和傅里叶增强的图ODE。首先，利用重建自编码器将物理参数编码到离散状态字典中。然后，通过在潜在空间中进行插值，生成新的、物理上合理的训练样本。最后，将这些增强的表示输入到傅里叶增强的图ODE中进行下游预测。

关键创新：SPARK的关键创新在于其物理引导的数据增强方法。与传统的数据增强方法不同，SPARK利用物理知识来约束增强过程，从而生成更符合实际物理规律的数据。这种方法可以有效地提高模型在分布外场景下的泛化能力。

关键设计：SPARK的关键设计包括：1) 使用重建自编码器来学习物理参数的潜在表示；2) 在潜在空间中进行插值，生成新的训练样本；3) 使用傅里叶增强的图ODE来建模长期时间依赖性。具体的损失函数和网络结构细节在论文中有详细描述，但摘要中未明确提及。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，SPARK在各种基准测试中显著优于最先进的基线方法，尤其是在具有挑战性的分布外场景和数据稀缺情况下。具体的性能提升数据在摘要中未给出，但强调了SPARK在泛化能力方面的显著优势。

🎯 应用场景

该研究成果可应用于各种动态系统建模场景，例如机器人控制、自动驾驶、气候预测和生物系统建模等。通过提高模型在数据稀缺和分布偏移情况下的泛化能力，可以降低对大量训练数据的依赖，并提高模型在实际应用中的鲁棒性和可靠性。未来，该方法有望推动动态系统建模在更广泛领域的应用。

📄 摘要（原文）

In dynamical system modeling, traditional numerical methods are limited by high computational costs, while modern data-driven approaches struggle with data scarcity and distribution shifts. To address these fundamental limitations, we first propose SPARK, a physics-guided quantitative augmentation plugin. Specifically, SPARK utilizes a reconstruction autoencoder to integrate physical parameters into a physics-rich discrete state dictionary. This state dictionary then acts as a structured dictionary of physical states, enabling the creation of new, physically-plausible training samples via principled interpolation in the latent space. Further, for downstream prediction, these augmented representations are seamlessly integrated with a Fourier-enhanced Graph ODE, a combination designed to robustly model the enriched data distribution while capturing long-term temporal dependencies. Extensive experiments on diverse benchmarks demonstrate that SPARK significantly outperforms state-of-the-art baselines, particularly in challenging out-of-distribution scenarios and data-scarce regimes, proving the efficacy of our physics-guided augmentation paradigm.