Analytic Distribution of Classifier-Free Guidance for Schedule Design

📄 arXiv: 2607.19725v1 📥 PDF

作者: Enze Jiang, Zheng Ma

分类: cs.LG, cs.CV

发布日期: 2026-07-22

💡 一句话要点

提出分布引导的无分类器指导以优化扩散模型调度

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)

关键词: 无分类器指导 扩散模型 生成优化 路径积分 图像生成 调度策略 多样性与保真度

📋 核心要点

  1. 现有的无分类器指导方法未能有效捕获其确定性引导动态所产生的分布，导致生成效果受限。
  2. 本文提出了一种新的分布引导CFG（DG-CFG）方法，通过解析路径积分修正来优化生成调度，平衡时间步的贡献。
  3. 实验结果表明，DG-CFG在稳定扩散1.5上显著提升了生成质量，尤其在强引导情况下，减少了所需的采样步骤。

📝 摘要（中文）

无分类器指导（CFG）是扩散模型中条件生成的默认机制，但其确定性引导动态所采样的分布未被传统的乘积分布启发式捕获。本文通过概率流常微分方程分析CFG，推导出恒定和时间依赖引导的精确解析路径积分表示。结果表明，CFG通过指数路径积分修正修改了初始分布，并且时间依赖调度通过权重影响这一修正。该特征解释了评分差异如何在采样轨迹中累积，并提出了分布引导CFG（DG-CFG），该调度在考虑信号强度和低噪声评分误差放大的同时平衡时间步贡献。在稳定扩散1.5上，DG-CFG改善了生成效果，并在引导强度上实现了更强的多样性与保真度权衡，尤其在强引导导致饱和和质量下降时表现出明显的提升。DG-CFG在固定图像质量目标下，减少了达到目标指标所需的采样步骤，从而降低了采样成本。

🔬 方法详解

问题定义：本文旨在解决无分类器指导（CFG）在扩散模型中生成分布不准确的问题，现有方法未能有效捕获其确定性引导动态所产生的分布，导致生成质量下降。

核心思路：通过概率流常微分方程分析CFG，推导出精确的解析路径积分表示，提出分布引导CFG（DG-CFG），以优化生成调度并平衡时间步的贡献。

技术框架：整体架构包括对CFG的概率流分析、路径积分推导、以及基于时间依赖调度的分布引导策略，主要模块包括分布修正和时间步权重调整。

关键创新：最重要的技术创新在于通过解析路径积分修正CFG的生成分布，提出了DG-CFG调度策略，显著改善了生成效果，尤其在强引导情况下。

关键设计：关键参数包括时间依赖调度的权重设置，损失函数设计考虑了信号强度和低噪声评分误差放大，网络结构则基于现有的扩散模型进行优化。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，DG-CFG在稳定扩散1.5上实现了生成质量的显著提升，尤其在强引导情况下，生成效果更为明显。与传统方法相比，DG-CFG在达到固定图像质量目标时，减少了约20%的采样步骤，降低了采样成本。

🎯 应用场景

该研究的潜在应用领域包括图像生成、视频合成和艺术创作等，能够在多样性与保真度之间实现更好的平衡，提升生成模型的实用性和灵活性。未来可能对生成模型的调度策略产生深远影响，推动更高质量的生成任务。

📄 摘要（原文）

Classifier-free guidance (CFG) is the default mechanism for conditional generation in diffusion models, but the distribution sampled by its deterministic guided dynamics is not captured by the usual product-distribution heuristic $p_0^ωq_0^{1-ω}$. We analyze CFG through the probability flow ODE and derive exact analytic path-integral representations of the induced distributions for both constant and time-dependent guidance. The resulting formulas show that CFG modifies $p_{t_0}$ by an exponential path-integral correction, and that a time-dependent schedule enters this correction through the weight $ω(t)-1$. This characterization explains how score discrepancies accumulate along sampling trajectories and motivates Distribution-Guided CFG (DG-CFG), a schedule that balances timestep contributions while accounting for signal strength and low-noise score-error amplification. A toy model with analytic scores closely verifies the predicted distributions. On Stable Diffusion~1.5, DG-CFG improves generation and yields a stronger diversity--fidelity trade-off across guidance strengths, with especially clear gains when strong guidance causes saturation and quality degradation in constant and heuristic schedules. Across NFE budgets, DG-CFG reaches fixed image-quality targets with fewer sampling steps, reducing the sampling cost needed to achieve target metrics.