CACFG: Curvature-Aware Classifier-Free Guidance and Optimal Control

📄 arXiv: 2610.05845v1 📥 PDF

作者: Max Collins, Dasith de Silva Edirimuni, Jordan Vice, Tim French, Ajmal Mian

分类: cs.LG, cs.AI

发布日期: 2026-10-05

💡 一句话要点

提出CACFG以解决CFG在高引导强度下的质量下降问题

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)

关键词: 扩散模型 无分类器引导 最优控制 生成模型 图像生成 高斯正则化 曲率感知

📋 核心要点

  1. 现有的无分类器引导方法在高引导强度下会导致生成图像质量下降和多样性降低，且缺乏理论支持。
  2. 本文将CFG采样视为最优控制问题，提出CACFG，通过限制控制集来改善高引导强度下的生成效果。
  3. 实验结果表明，CACFG在多个扩散模型和数据集上都能实现更优的生成质量，且质量与多样性之间的权衡更为合理。

📝 摘要（中文）

扩散模型通过学习逆转固定的损坏过程生成样本，而无分类器引导（CFG）是对这一过程进行条件化的标准机制。尽管高引导强度可以提高图像质量和条件对齐，但过高的引导强度会降低图像质量和多样性。本文将CFG采样视为一个连续时间的最优控制问题，提出了曲率感知的无分类器引导（CACFG），通过将控制集限制在一个超球面上，显著改善了中高引导强度下的生成质量，减少了质量与多样性之间的权衡。

🔬 方法详解

问题定义：本文旨在解决无分类器引导（CFG）在高引导强度下导致的图像质量下降和多样性降低的问题。现有方法缺乏理论支持，且在实际应用中表现不佳。

核心思路：论文将CFG采样重新框定为一个连续时间的最优控制问题，提出曲率感知的无分类器引导（CACFG），通过限制控制集来确保采样路径的合理性，从而提高生成质量。

技术框架：整体架构包括将CFG采样视为控制问题，利用Hamilton-Jacobi-Bellman方程求解最优路径。CACFG通过将控制集限制在一个超球面上，结合高斯正则化，确保生成过程的稳定性。

关键创新：CACFG的主要创新在于引入了曲率感知的控制约束，解决了CFG在高引导强度下的失效问题，与传统CFG方法相比，显著改善了生成质量和多样性。

关键设计：在设计中，控制集被限制在一个超球面上，结合高斯正则化进行训练，确保生成路径不会偏离当前图像估计过远。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，CACFG在多个扩散模型和数据集上均优于传统CFG方法，尤其在中高引导强度下，生成质量提升显著，质量与多样性之间的权衡更为合理，具体性能数据未提供。

🎯 应用场景

该研究的潜在应用领域包括图像生成、艺术创作、虚拟现实等。CACFG能够在高引导强度下生成高质量图像，具有实际应用价值，未来可能推动生成模型在更多领域的应用与发展。

📄 摘要（原文）

Diffusion models generate samples by learning to reverse a fixed corruption process, and classifier-free guidance (CFG) is the standard mechanism for conditioning this process on a desired class or prompt. CFG can be applied at varying guidance strengths, and while higher strengths improve image quality and conditional alignment, too high a guidance strength can degrade image quality and diversity. Furthermore, CFG violates principled diffusion sampling dynamics, and existing explanations for why it works despite the violation disagree on the underlying theory or do not extend to deterministic samplers used in practice. We address both these issues. We first frame CFG sampling as a continuous-time optimal control problem, treating the sampling trajectory as a sequence of controls chosen to maximise the probability of the desired condition. Solving the resulting Hamilton--Jacobi--Bellman equation shows that CFG is recovered under specific path costs when using an unconstrained control set. We argue this lack of constraint is responsible for CFG's failure at high guidance strengths, since it permits the sampling path to move arbitrarily far from the current image estimate. To fix this, we propose curvature-aware CFG (CACFG), which constrains the control set to a hypersphere informed by the Gaussian regularisation used when training variational autoencoders. We show that the control inputs produced by CFG sampling routinely violate this bound, and that across diffusion models, datasets, and guidance schedules, CACFG achieves superior generative quality at mid-to-high guidance strengths with a less severe quality-diversity tradeoff than regular CFG.