Scalable Expectation Estimation with Subtractive Mixture Models

📄 arXiv: 2503.21346v1 📥 PDF

作者: Lena Zellinger, Nicola Branchini, Víctor Elvira, Antonio Vergari

分类: cs.LG, stat.CO, stat.ML

发布日期: 2025-03-27

💡 一句话要点

提出基于差分表示的无偏重要性采样估计器，加速高维空间中减性混合模型的期望估计。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 减性混合模型 重要性采样 期望估计 蒙特卡洛方法 高维估计

📋 核心要点

  1. 传统方法在处理带负系数的减性混合模型时，采样过程复杂，自回归方法计算成本高，接受-拒绝算法在高维空间难以扩展。
  2. 论文利用减性混合模型的差分表示，构建无偏重要性采样估计器，避免直接从减性混合模型采样，从而实现高效的高维期望估计。
  3. 实验表明，该方法在蒙特卡洛估计中，能达到与自回归采样相当的估计质量，且速度更快。初步实验探索了为该方法构建安全提议分布的策略。

📝 摘要（中文）

许多蒙特卡洛(MC)和重要性采样(IS)方法使用混合模型(MMs)，因为它们简单且能够捕捉多模态分布。最近，减性混合模型(SMMs)，即具有负系数的MMs，在生成建模中表现出更强的表达能力和成功。然而，它们的负参数使采样变得复杂，需要代价高昂的自回归技术或在高维空间中无法扩展的接受-拒绝算法。在这项工作中，我们使用SMMs的差分表示来构建一个无偏IS估计器($Δ ext{Ex}$)，它消除了从SMM采样的需要，从而能够使用SMMs进行高维期望估计。在我们的实验中，我们表明，$Δ ext{Ex}$可以实现与自回归采样相当的估计质量，同时在MC估计中速度更快。此外，我们使用手工设计的提议分布对$Δ ext{Ex}$进行了初步实验，获得了关于如何为$Δ ext{Ex}$构建安全提议分布的初步见解。

🔬 方法详解

问题定义：论文旨在解决使用减性混合模型（SMMs）进行高维期望估计时，由于SMMs包含负系数而导致的采样困难问题。现有的自回归采样方法计算成本高昂，而接受-拒绝算法在高维空间中难以有效扩展，限制了SMMs在高维问题中的应用。

核心思路：论文的核心思路是利用SMMs的差分表示，将期望估计问题转化为一个可以通过重要性采样（IS）有效解决的形式。通过这种方式，避免了直接从SMMs中进行采样，从而绕过了负系数带来的采样难题。

技术框架：该方法的核心是构建一个基于差分表示的无偏重要性采样估计器($Δ ext{Ex}$)。整体流程如下： 1. 将SMM表示为两个正混合模型的差分。 2. 设计一个提议分布，用于重要性采样。 3. 使用提议分布生成样本，并计算重要性权重。 4. 利用重要性权重和样本，计算期望的无偏估计。

关键创新：最重要的技术创新点在于利用SMMs的差分表示，避免了直接从具有负系数的混合模型中采样。这使得在高维空间中使用SMMs进行期望估计成为可能，并显著提高了计算效率。与现有方法相比，该方法无需复杂的自回归采样或效率低下的接受-拒绝算法。

关键设计：关键设计包括： 1. 差分表示：将SMM分解为两个正混合模型的差，这是构建无偏估计器的基础。 2. 提议分布的选择：提议分布的选择对重要性采样的效率至关重要。论文初步探讨了手工设计提议分布的策略，并强调了构建“安全”提议分布的重要性，即确保提议分布的支撑集覆盖目标分布的支撑集，以避免估计偏差。 3. 无偏估计器的构建：基于差分表示和重要性权重，构建期望的无偏估计器，保证估计的准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，提出的$Δ ext{Ex}$方法在蒙特卡洛估计中，能够达到与自回归采样方法相当的估计质量，同时显著提高了计算速度。初步实验还探索了手工设计提议分布的策略，为后续研究如何自动构建高效的提议分布提供了有价值的参考。

🎯 应用场景

该研究成果可应用于各种需要进行高维期望估计的领域，例如贝叶斯推断、强化学习、金融建模等。特别是在目标分布具有复杂多模态结构，且难以直接采样的情况下，该方法能够提供一种高效且准确的期望估计方案。未来，该方法有望推动减性混合模型在更广泛的实际问题中的应用。

📄 摘要（原文）

Many Monte Carlo (MC) and importance sampling (IS) methods use mixture models (MMs) for their simplicity and ability to capture multimodal distributions. Recently, subtractive mixture models (SMMs), i.e. MMs with negative coefficients, have shown greater expressiveness and success in generative modeling. However, their negative parameters complicate sampling, requiring costly auto-regressive techniques or accept-reject algorithms that do not scale in high dimensions. In this work, we use the difference representation of SMMs to construct an unbiased IS estimator ($Δ\text{Ex}$) that removes the need to sample from the SMM, enabling high-dimensional expectation estimation with SMMs. In our experiments, we show that $Δ\text{Ex}$ can achieve comparable estimation quality to auto-regressive sampling while being considerably faster in MC estimation. Moreover, we conduct initial experiments with $Δ\text{Ex}$ using hand-crafted proposals, gaining first insights into how to construct safe proposals for $Δ\text{Ex}$.