Iterative Exact Discrete Guidance for Energy-Based Sampling

📄 arXiv: 2609.37043v1 📥 PDF

作者: Yuwen Qian, Yidong Ouyang, Zhengyan Wan, Hongyuan Zha

分类: cs.LG, stat.ML

发布日期: 2026-09-29

备注: 45 pages, 6 figures. Code and artifacts: https://github.com/StillFantasy123/iterative-exact-discrete-guidance

🔗 代码/项目: GITHUB

💡 一句话要点

提出迭代精确离散引导以解决大离散状态空间采样问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 离散采样 Boltzmann倾斜 后验修正 热力学几何 组合优化 统计物理 机器学习

📋 核心要点

  1. 现有方法在处理多模态目标时，面对大离散状态空间的非标准化分布采样存在显著困难。
  2. 论文提出的IEDG通过逐步引导和全局Boltzmann倾斜，解决了单步学习后验修正的不足，提升了采样效率。
  3. 实验结果表明，IEDG在多个基准测试中超越了神经基线，尤其在Ising/Potts模型中显著降低了一次性错误。

📝 摘要（中文）

在大离散状态空间中，从非标准化分布进行采样变得困难，尤其是当多模态目标远离可处理参考时。本文提出了迭代精确离散引导（IEDG），这是一种针对非标准化离散目标的群体精确、轨迹导向的引导框架。IEDG通过在退火轨迹上引入全局Boltzmann倾斜，逐步学习阶段局部后验修正，从而逐步调整当前源的Boltzmann倾斜。最终，IEDG在多个实验中展示了相较于神经基线的显著改进，尤其在Ising和Potts模型中表现出色。

🔬 方法详解

问题定义：论文旨在解决在大离散状态空间中，从非标准化分布进行有效采样的问题。现有方法在面对多模态目标时，往往难以实现有效的后验修正，导致采样效率低下。

核心思路：IEDG的核心思路是通过引入全局Boltzmann倾斜和逐步学习阶段局部后验修正，避免一次性学习的复杂性，从而在退火轨迹上实现更高效的采样。

技术框架：IEDG的整体架构包括多个阶段，每个阶段针对当前源的Boltzmann倾斜进行局部后验修正，并将这些修正相对于固定的解析后验进行累积。每个阶段的增量由相对有效样本量（rESS）控制，以适应热力学几何。

关键创新：IEDG的主要创新在于其阶段性后验修正机制和基于rESS的增量选择，这使得其在采样过程中能够更好地适应目标分布的复杂性，显著提高了采样的准确性和效率。

关键设计：在设计上，IEDG采用了阶段性总变差分析，考虑了有限重叠对Bregman拟合误差的影响，并将后验、模拟和截断误差进行加性处理，从而优化了整体采样性能。具体参数设置和损失函数设计在实验中经过细致调优。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，IEDG在有序的Ising $4\times4$模型上超越了所有神经基线，并在Ising/Potts $16\times16$模型中显著降低了一次性错误。此外，在Max-Cut问题中，IEDG的最佳样本比率超过了所有基线，展现出卓越的性能。

🎯 应用场景

该研究的潜在应用领域包括统计物理、组合优化和机器学习等。IEDG能够有效处理复杂的离散分布，具有广泛的实际价值，尤其是在需要高效采样的场景中，如图像生成和优化问题。未来，IEDG可能会推动更多基于离散分布的算法发展。

📄 摘要（原文）

Sampling from unnormalized distributions over large discrete state spaces becomes difficult when a multimodal target is far from a tractable reference. We introduce Iterative Exact Discrete Guidance (IEDG), a population-exact, trajectory-wise guidance framework for unnormalized discrete targets. Rather than learn the full reference-to-target correction in one step, IEDG introduces a global Boltzmann tilt along an annealing trajectory. Each stage learns a stage-local posterior correction for an incremental Boltzmann tilt of the current source, while the resulting corrections are accumulated relative to a fixed analytic posterior. At the population optimum, exact stage posteriors recover the correct reverse dynamics, whose exact simulation reproduces the target distribution. IEDG chooses stage increments by relative effective sample size (rESS), which controls Rényi-2 displacement and locally adapts the step size to the thermodynamic geometry of the annealing path. Our stagewise total-variation analysis shows that limited overlap amplifies Bregman fitting error by $1/\sqrt{\mathrm{rESS}}$, while posterior, simulation, and truncation errors enter additively. IEDG improves all distribution-level errors over the neural baselines on ordered, exactly enumerated Ising $4\times4$, while substantially reducing one-shot errors on Ising/Potts $16\times16$ across thermodynamic regimes and attaining the best neural-sampler result on several reported local-statistic and phase-coverage metrics. On Max-Cut, its best-of-512 and average-sample ratios exceed all the baselines. Code and artifacts are available at https://github.com/StillFantasy123/iterative-exact-discrete-guidance.