Getting Your Guidance Weights Right in diffusion and flow-matching posterior sampling
作者: Liam Moroy, Jean-François Giovannelli, Yoann Altmann, Steve McLaughlin, Frédéric Champagnat, Guillaume Bourmaud
分类: cs.LG
发布日期: 2026-10-02
💡 一句话要点
提出一种自动调节引导权重的方法以优化后验采样
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 后验采样 引导权重 扩散模型 流匹配 最小二乘优化 图像重建 信号处理
📋 核心要点
- 现有的后验采样方法在引导权重的调节上缺乏系统性，通常依赖启发式，导致性能不稳定。
- 本文提出了一种基于最小二乘优化的离线策略，自动调节引导权重，从而提高后验采样的准确性。
- 实验结果表明，优化后的引导权重使得扩散采样器的采样步骤显著减少，同时保持了重建质量，达到了最先进的性能。
📝 摘要（中文）
训练无关的后验采样方法，也称为插拔式方法，利用预训练的无条件扩散或流匹配模型来解决逆问题。现有方法通常依赖于引导权重来平衡每个时间步的无条件得分或速度网络的先验信息与测量一致性，但这些权重的调节往往缺乏讨论，主要依赖启发式方法。本文提出了一种简单且有原则的离线策略，自动调节这些引导权重。关键观察是，扩散模型的条件去噪得分匹配目标或流匹配模型的条件流匹配目标是最小二乘目标。因此，当条件预测表示为无条件网络输出和测量引导项的加权和时，优化这些权重归结为一个二维线性最小二乘问题。该方法在给定测量算子、噪声水平和采样器的情况下，可以在不重新训练或微调预训练生成模型的前提下，离线优化时间相关的引导权重。通过标准的基于Tweedie的测量一致性项，本文的方法提高了后验采样性能，并在扩散和流匹配方法中达到了最先进的重建性能。此外，优化后的引导权重使扩散采样器将采样步骤从1000减少到50，而重建质量没有显著下降。代码将会公开。
🔬 方法详解
问题定义：本文解决的是后验采样方法中引导权重调节不当的问题。现有方法往往依赖启发式调节，导致性能不稳定和重建质量下降。
核心思路：论文的核心思路是利用条件去噪得分匹配目标或条件流匹配目标的最小二乘特性，提出一种自动调节引导权重的方法。通过将条件预测表示为无条件网络输出和测量引导项的加权和，优化权重问题转化为二维线性最小二乘问题。
技术框架：整体架构包括预训练的无条件扩散或流匹配模型、测量一致性项以及优化引导权重的离线策略。首先，利用预训练模型生成初步预测，然后通过测量一致性项和优化算法调整引导权重。
关键创新：最重要的技术创新在于将引导权重的优化转化为最小二乘问题，使得优化过程高效且不需要重新训练模型。这一方法显著提高了后验采样的性能。
关键设计：关键设计包括使用标准的基于Tweedie的测量一致性项，以及在给定测量算子和噪声水平的情况下，优化时间相关的引导权重。
🖼️ 关键图片
📊 实验亮点
实验结果显示，优化后的引导权重使得扩散采样器的采样步骤从1000减少到50，重建质量保持不变，且在扩散和流匹配方法中达到了最先进的重建性能，显著提升了效率。
🎯 应用场景
该研究在图像重建、信号处理和逆问题求解等领域具有广泛的应用潜力。通过提高后验采样的效率和准确性，能够在医疗成像、计算机视觉等实际场景中实现更高质量的重建效果，推动相关技术的发展。
📄 摘要（原文）
Training-free posterior sampling methods, also known as Plug-and-Play methods, leverage pretrained unconditional diffusion or flow-matching models to solve inverse problems. Most existing approaches rely on guidance weights to balance, at each time step, prior information from the unconditional score or velocity network with measurement consistency, yet the tuning of these weights is often not discussed and is largely left to heuristics. We introduce a simple and principled offline strategy for automatically tuning these guidance weights. Our key observation is that, at each time step, the conditional denoising score-matching objective for diffusion models, or the conditional flow-matching objective for flow-matching models, is a least-squares objective. Therefore, when the conditional prediction is expressed as a weighted sum of the unconditional network output and a measurement-guidance term, optimizing over these weights reduces to a two-dimensional linear least-squares problem. The resulting time-dependent guidance weights can be optimized offline for a given measurement operator, noise level and sampler at the cost of a single minibatch of sampling trajectories, without retraining or fine-tuning the pretrained generative model. Instantiated with the standard Tweedie-based measurement-consistency term, our approach improves posterior sampling and achieves state-of-the-art reconstruction performance across diffusion- and flow-matching-based methods. Moreover, the optimized guidance weights enable diffusion samplers to reduce the number of sampling steps from 1000 to 50 with no significant degradation in reconstruction quality. Code will be made available.