Stabilizing Consistency Training: A Flow Map Analysis and Self-Distillation

📄 arXiv: 2601.22679v1 📥 PDF

作者: Youngjoong Kim, Duhoe Kim, Woosung Kim, Jaesik Park

分类: cs.LG, cs.CV

发布日期: 2026-01-30

💡 一句话要点

通过流图分析和自蒸馏稳定一致性训练，提升生成模型性能

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 一致性模型 生成模型 流图分析 自蒸馏 训练稳定性 扩散策略学习 梯度爆炸 深度学习

📋 核心要点

  1. 一致性模型训练不稳定且重现性差，现有解释分散，理论关系不明。
  2. 通过流图分析一致性模型，揭示训练稳定性和收敛行为与退化解的关系。
  3. 改进自蒸馏方法，避免梯度爆炸，并将其应用于扩散策略学习，无需预训练。

📝 摘要（中文）

一致性模型在快速生成建模领域表现出色，其性能可与扩散模型和流模型相媲美。然而，从头开始训练这些模型时，常常表现出固有的不稳定性，且重现性有限，这促使后续研究致力于解释和稳定这些问题。尽管这些努力提供了宝贵的见解，但解释仍然是分散的，理论关系也不明确。本文通过基于流图的视角对一致性模型进行理论分析，阐明了训练稳定性和收敛行为如何导致退化解。在此基础上，我们重新审视自蒸馏，将其作为解决某些次优收敛形式的实用方法，并对其进行改进，以避免过度的梯度范数，从而实现稳定的优化。我们进一步证明，我们的策略可以扩展到基于扩散的策略学习，而无需依赖预训练的扩散模型进行初始化，从而证明了其更广泛的适用性。

🔬 方法详解

问题定义：一致性模型在生成建模中展现出潜力，但其训练过程常常不稳定，难以复现，导致模型性能下降。现有研究对这些问题进行了分析，但缺乏统一的理论框架，难以有效解决训练不稳定的问题。现有方法的痛点在于缺乏对一致性模型训练过程的深入理解，以及缺乏有效的稳定训练策略。

核心思路：本文的核心思路是通过流图的视角来分析一致性模型，从而理解其训练过程中的稳定性和收敛行为。基于流图的分析能够揭示训练不稳定和收敛到退化解之间的关系。在此基础上，论文重新审视了自蒸馏方法，并对其进行改进，以避免训练过程中出现过大的梯度范数，从而实现更稳定的优化。

技术框架：该研究的技术框架主要包括以下几个部分：1) 使用流图理论分析一致性模型的训练过程，揭示训练稳定性和收敛行为的内在联系；2) 重新审视自蒸馏方法，并对其进行改进，以避免梯度爆炸问题；3) 将改进后的自蒸馏方法应用于一致性模型的训练，并验证其有效性；4) 将该方法扩展到基于扩散的策略学习，并验证其泛化能力。

关键创新：该论文的关键创新点在于：1) 首次使用流图理论对一致性模型的训练过程进行深入分析，为理解其稳定性和收敛行为提供了新的视角；2) 提出了改进的自蒸馏方法，有效避免了训练过程中的梯度爆炸问题，从而提高了训练的稳定性；3) 将该方法成功应用于扩散策略学习，并取得了良好的效果，证明了其具有更广泛的适用性。

关键设计：论文的关键设计包括：1) 基于流图的理论分析框架，用于理解一致性模型的训练过程；2) 改进的自蒸馏损失函数，用于避免梯度爆炸；3) 针对扩散策略学习的特定优化策略，以提高模型的性能。

📊 实验亮点

该研究通过实验验证了改进的自蒸馏方法在稳定一致性模型训练方面的有效性。实验结果表明，该方法能够显著提高模型的训练稳定性和生成质量，并成功应用于扩散策略学习，无需预训练扩散模型即可获得良好的性能。具体的性能提升数据在论文中进行了详细的展示和对比。

🎯 应用场景

该研究成果可广泛应用于图像生成、视频生成、音频生成等领域，尤其是在需要快速生成和高质量结果的场景下。此外，该方法在机器人控制、强化学习等领域也具有潜在的应用价值，可以用于训练更稳定、更高效的策略模型。未来，该研究可以进一步扩展到其他生成模型和强化学习算法中，推动相关领域的发展。

📄 摘要（原文）

Consistency models have been proposed for fast generative modeling, achieving results competitive with diffusion and flow models. However, these methods exhibit inherent instability and limited reproducibility when training from scratch, motivating subsequent work to explain and stabilize these issues. While these efforts have provided valuable insights, the explanations remain fragmented, and the theoretical relationships remain unclear. In this work, we provide a theoretical examination of consistency models by analyzing them from a flow map-based perspective. This joint analysis clarifies how training stability and convergence behavior can give rise to degenerate solutions. Building on these insights, we revisit self-distillation as a practical remedy for certain forms of suboptimal convergence and reformulate it to avoid excessive gradient norms for stable optimization. We further demonstrate that our strategy extends beyond image generation to diffusion-based policy learning, without reliance on a pretrained diffusion model for initialization, thereby illustrating its broader applicability.