Posterior error bounds for prior-driven balancing in linear Gaussian inverse problems

📄 arXiv: 2601.03971v1 📥 PDF

作者: Josie König, Han Cheng Lie

分类: math.NA, eess.SY

发布日期: 2026-01-07

💡 一句话要点

针对线性高斯逆问题，提出先验驱动平衡的后验误差界限方法

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 贝叶斯逆问题 模型降阶 误差界限 系统理论 平衡截断

📋 核心要点

  1. 大规模贝叶斯逆问题中，降低正向模型评估成本是关键挑战，但需保证近似质量。
  2. 论文核心在于利用逆扰动理论，为线性近似正向模型导致的后验误差提供界限。
  3. 针对线性时不变系统平滑问题，建立了系统理论与逆问题的联系，并推导出误差界限。

📝 摘要（中文）

在大规模贝叶斯逆问题中，通常需要应用近似正向模型来降低正向模型评估的成本，同时控制近似质量。在具有线性正向模型、高斯先验和高斯噪声的贝叶斯逆问题背景下，我们利用逆的扰动理论来界定由线性近似正向模型导致的近似后验均值和后验协方差的误差。然后，我们专注于推断线性时不变动力系统的初始条件的平滑问题，使用有限数量的部分状态观测。对于此类问题，以及基于平衡截断的特定模型降阶方法，我们表明，某个先验驱动系统的脉冲响应与逆问题的先验预处理 Hessian 密切相关。这揭示了系统理论和逆问题之间的新颖联系。我们利用这种联系来证明应用于平滑问题的系统理论模型降阶方法的第一个先验误差界限。这些界限根据底层系统的截断 Hankel 奇异值来控制后验均值和协方差的近似误差。

🔬 方法详解

问题定义：论文旨在解决大规模贝叶斯逆问题中，由于正向模型计算成本过高而不得不使用近似模型，从而导致的后验分布误差控制问题。现有方法缺乏对近似模型引入误差的有效界定，难以保证逆问题求解的精度。

核心思路：论文的核心思路是利用逆的扰动理论，将近似正向模型引入的误差转化为对后验均值和协方差的扰动，并推导出误差的先验界限。特别地，针对线性时不变系统平滑问题，论文建立了系统理论中的平衡截断与逆问题先验预处理Hessian之间的联系，从而可以将系统理论中的模型降阶方法应用于逆问题，并获得相应的误差界限。

技术框架：论文的技术框架主要包含以下几个部分：1) 利用逆扰动理论，推导一般线性高斯逆问题中，近似正向模型导致的后验误差界限；2) 针对线性时不变系统平滑问题，建立先验驱动系统与逆问题Hessian之间的联系；3) 基于平衡截断方法，对系统进行模型降阶，并推导相应的后验误差界限。

关键创新：论文最重要的技术创新在于建立了系统理论与贝叶斯逆问题之间的桥梁，将系统理论中的模型降阶方法应用于逆问题，并首次推导出了此类方法的先验误差界限。此外，论文还揭示了先验驱动系统与逆问题Hessian之间的内在联系，为理解贝叶斯逆问题提供了新的视角。

关键设计：论文的关键设计包括：1) 选择合适的先验分布，以保证后验分布的良好性质；2) 采用平衡截断方法进行模型降阶，以保证降阶模型的近似精度；3) 利用Hankel奇异值来界定模型降阶带来的误差，从而实现对后验误差的有效控制。

📊 实验亮点

论文针对线性时不变系统平滑问题，首次提出了基于系统理论模型降阶方法的先验误差界限。该界限通过截断Hankel奇异值来控制后验均值和协方差的近似误差，为实际应用中选择合适的模型降阶方法提供了理论指导。具体性能数据未知，但理论分析表明，该方法能够有效降低计算成本，同时保证求解精度。

🎯 应用场景

该研究成果可应用于各种需要进行大规模贝叶斯逆问题求解的领域，例如地球物理反演、医学图像重建、参数估计等。通过使用近似正向模型和模型降阶方法，可以显著降低计算成本，提高求解效率。同时，论文提供的误差界限可以帮助用户评估近似解的精度，从而保证结果的可靠性。未来，该研究可以进一步推广到非线性逆问题和非高斯先验的情况。

📄 摘要（原文）

In large-scale Bayesian inverse problems, it is often necessary to apply approximate forward models to reduce the cost of forward model evaluations, while controlling approximation quality. In the context of Bayesian inverse problems with linear forward models, Gaussian priors, and Gaussian noise, we use perturbation theory for inverses to bound the error in the approximate posterior mean and posterior covariance resulting from a linear approximate forward model. We then focus on the smoothing problem of inferring the initial condition of linear time-invariant dynamical systems, using finitely many partial state observations. For such problems, and for a specific model order reduction method based on balanced truncation, we show that the impulse response of a certain prior-driven system is closely related to the prior-preconditioned Hessian of the inverse problem. This reveals a novel connection between systems theory and inverse problems. We exploit this connection to prove the first a priori error bounds for system-theoretic model order reduction methods applied to smoothing problems. The bounds control the approximation error of the posterior mean and covariance in terms of the truncated Hankel singular values of the underlying system.