Wasserstein Gradient Flows for Batch Bayesian Optimal Experimental Design

📄 arXiv: 2603.12102v1 📥 PDF

作者: Louis Sharrock

分类: stat.ML, cs.LG, stat.CO, stat.ME

发布日期: 2026-03-12

💡 一句话要点

提出基于Wasserstein梯度流的批量贝叶斯最优实验设计方法，提升高维非凸优化效率。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 贝叶斯最优实验设计 Wasserstein梯度流 批量设计 概率测度空间 熵正则化 蒙特卡罗估计 粒子算法

📋 核心要点

  1. 传统BOED方法在优化高维非凸的效用函数（如EIG）时面临挑战，尤其是在批量实验设计中。
  2. 论文提出将优化问题提升到概率测度空间，并引入熵正则化，从而得到具有唯一极小值的优化目标。
  3. 实验结果表明，该方法能够有效探索多模态优化空间，并在复杂场景下获得高实用性的实验批次。

📝 摘要（中文）

贝叶斯最优实验设计(BOED)为选择实验提供了一个强大的、基于决策理论的框架，旨在最大化收集数据的预期效用。然而，在实践中，由于优化所选效用的难度，其适用性受到限制。例如，预期信息增益(EIG)通常是高维且强非凸的。在批量设置中，同时设计多个实验时，这种挑战尤为突出。本文提出了一种新的方法，通过将原始优化问题概率性地提升到概率测度空间，来进行基于批量EIG的BOED。特别地，我们建议优化设计测度空间上预期效用的熵正则化。在温和的条件下，我们证明了该目标函数存在唯一的极小值，并且可以明确地以吉布斯分布的形式表征。由此产生的设计法则可以直接用作随机批量设计策略，或者作为提取确定性批量的计算松弛。为了在批量大小较大时获得可扩展的近似，我们考虑了完整批量分布的两个易于处理的限制：平均场族和独立同分布(i.i.d.)乘积族。对于i.i.d.目标，以及形式上对于其平均场扩展，我们推导了相应的Wasserstein梯度流，表征了其长期行为，并通过时空离散化获得了基于粒子的算法。我们还引入了双重随机变体，将交互粒子更新与EIG梯度的蒙特卡罗估计器相结合。最后，我们在几个数值实验中说明了所提出方法的性能，证明了它们探索多模态优化景观并在具有挑战性的示例中获得高实用性批次的能力。

🔬 方法详解

问题定义：贝叶斯最优实验设计(BOED)旨在选择最佳实验，以最大化从实验中获得的预期信息增益(EIG)。然而，EIG通常是高维且强非凸的，这使得优化过程非常困难，尤其是在需要同时设计多个实验的批量设置中。现有的优化方法难以有效地探索复杂的多模态优化空间，导致实验设计效率低下。

核心思路：论文的核心思路是将原始的优化问题从实验设计参数空间提升到概率测度空间。具体来说，不是直接优化实验设计参数，而是优化设计参数上的概率分布。通过引入熵正则化，使得优化目标函数具有更好的性质，例如唯一极小值，从而更容易优化。这种概率性的提升允许使用梯度流等工具来寻找最优设计。

技术框架：整体框架包括以下几个主要步骤：1) 将批量BOED问题转化为概率测度空间上的优化问题；2) 引入熵正则化，得到具有唯一极小值的优化目标；3) 推导Wasserstein梯度流，描述概率分布随时间的演化；4) 通过时空离散化，得到基于粒子的算法；5) 引入双重随机变体，结合交互粒子更新和蒙特卡罗估计器。

关键创新：最重要的技术创新点在于将BOED问题概率性地提升到概率测度空间，并利用Wasserstein梯度流进行优化。与传统的优化方法相比，这种方法能够更好地探索多模态优化空间，避免陷入局部最优。此外，通过引入熵正则化，使得优化目标更加平滑，更容易优化。

关键设计：关键的设计包括：1) 熵正则化的强度参数的选择，需要平衡探索和利用；2) Wasserstein距离的选择，影响梯度流的性质；3) 基于粒子的算法的离散化步长的选择，需要保证算法的稳定性和收敛性；4) 双重随机变体中蒙特卡罗估计器的样本数量，需要在计算成本和估计精度之间进行权衡。

📊 实验亮点

论文通过数值实验验证了所提出方法的有效性。实验结果表明，该方法能够有效地探索多模态优化空间，并在具有挑战性的示例中获得高实用性的实验批次。与传统的优化方法相比，该方法能够显著提高实验设计的效率，并获得更好的实验结果。具体性能数据未知，但论文强调了其在复杂场景下的优越性。

🎯 应用场景

该研究成果可应用于各种需要进行实验设计的领域，例如药物发现、材料科学、机器学习模型选择等。通过更有效地设计实验，可以减少实验次数，降低实验成本，并加速科学发现的过程。此外，该方法还可以用于在线学习和强化学习等领域，以更有效地探索环境并学习最优策略。

📄 摘要（原文）

Bayesian optimal experimental design (BOED) provides a powerful, decision-theoretic framework for selecting experiments so as to maximise the expected utility of the data to be collected. In practice, however, its applicability can be limited by the difficulty of optimising the chosen utility. The expected information gain (EIG), for example, is often high-dimensional and strongly non-convex. This challenge is particularly acute in the batch setting, where multiple experiments are to be designed simultaneously. In this paper, we introduce a new approach to batch EIG-based BOED via a probabilistic lifting of the original optimisation problem to the space of probability measures. In particular, we propose to optimise an entropic regularisation of the expected utility over the space of design measures. Under mild conditions, we show that this objective admits a unique minimiser, which can be explicitly characterised in the form of a Gibbs distribution. The resulting design law can be used directly as a randomised batch-design policy, or as a computational relaxation from which a deterministic batch is extracted. To obtain scalable approximations when the batch size is large, we then consider two tractable restrictions of the full batch distribution: a mean-field family, and an i.i.d. product family. For the i.i.d. objective, and formally for its mean-field extension, we derive the corresponding Wasserstein gradient flow, characterise its long-time behaviour, and obtain particle-based algorithms via space-time discretisations. We also introduce doubly stochastic variants that combine interacting particle updates with Monte Carlo estimators of the EIG gradient. Finally, we illustrate the performance of the proposed methods in several numerical experiments, demonstrating their ability to explore multimodal optimisation landscapes and obtain high-utility batches in challenging examples.