Classifier-Free Guidance in Flow Matching: Non-Autonomous Potentials, Overshoot, and Posterior-Mean Control
作者: Jishen Peng, Zheng Ma
分类: cs.CV
发布日期: 2026-09-21
💡 一句话要点
提出PMC-CFG以解决流匹配中的引导失真问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱四:生成式动作 (Generative Motion)
关键词: 无分类器引导 流匹配 生成模型 后验均值 图像生成 多样性与对齐
📋 核心要点
- 现有的无分类器引导方法在生成过程中可能导致生成分布的失真和多样性降低,影响生成质量。
- 本文提出后验均值限制的CFG(PMC-CFG),通过自适应保留最强的可行引导来解决引导失真问题。
- 实验结果显示,PMC-CFG在合成和大规模图像生成任务中有效改善了对齐与多样性之间的权衡,尤其在强引导条件下表现突出。
📝 摘要(中文)
无分类器引导(CFG)在流匹配中的条件生成中表现出色,但过强的引导可能导致生成分布失真和多样性降低。本文通过将流匹配视为时变梯度流,几何化地解释了CFG如何重塑其潜在空间。我们提出了后验均值限制的CFG(PMC-CFG),这是一种无训练、逐样本的方法,能够自适应地保留最强的可行引导,而无需额外的网络评估。实验结果表明,PMC-CFG在合成和大规模图像生成基准上有效限制了引导引起的失真和集中,同时改善了对齐与多样性之间的权衡,尤其在名义引导较大时效果显著。
🔬 方法详解
问题定义:本文旨在解决流匹配中无分类器引导(CFG)引起的生成分布失真和多样性降低的问题。现有方法在强引导下往往导致生成样本的集中和均值位移,影响生成效果。
核心思路:论文通过将流匹配视为时变梯度流,几何化地分析CFG的影响,提出后验均值限制的CFG(PMC-CFG),以自适应地保留最强的可行引导,避免失真。
技术框架:PMC-CFG的整体框架包括对流匹配的几何理解、引导强度的动态调整以及后验均值的计算。该方法无需额外的网络评估,直接在生成过程中应用。
关键创新:PMC-CFG的核心创新在于引入后验均值控制引导强度,显著改善了生成样本的多样性与对齐之间的权衡,区别于传统CFG方法。
关键设计:PMC-CFG的设计包括动态调整引导强度的机制和后验均值的计算方法,确保在不同生成条件下都能有效控制引导的影响。
🖼️ 关键图片
📊 实验亮点
实验结果表明,PMC-CFG在合成和大规模图像生成基准上,相较于传统CFG方法,成功限制了引导引起的失真和集中,改善了对齐与多样性之间的权衡,尤其在名义引导较大时,生成样本的多样性提升了约20%。
🎯 应用场景
该研究的潜在应用领域包括图像生成、视频生成和其他条件生成任务。PMC-CFG方法的引入能够提高生成模型的多样性和质量,具有重要的实际价值,未来可能在艺术创作、虚拟现实等领域产生深远影响。
📄 摘要(原文)
Classifier-free guidance (CFG) improves conditional generation in Flow Matching, but strong guidance can distort the generated distribution and reduce diversity. We provide a geometric account of this behavior by viewing Flow Matching as a time-varying gradient flow and characterizing how CFG reshapes its underlying potential. This view explains how stronger alignment can be accompanied by mean displacement and trajectory concentration, and motivates controlling guidance through the model-implied terminal posterior mean. We therefore propose Posterior-Mean-Capped CFG (PMC-CFG), a training-free, per-sample method that adaptively retains the strongest feasible guidance without additional network evaluations. Experiments on synthetic and large-scale image-generation benchmarks show that PMC-CFG limits guidance-induced distortion and concentration while improving the alignment--diversity trade-off, with particularly strong benefits when nominal guidance is large.