Entropy-Controlled Flow Matching

📄 arXiv: 2602.22265 📥 PDF

作者: Chika Maduabuchi

分类: cs.LG, cs.CV

发布日期: 2026-02-28

💡 一句话要点

提出熵控制流匹配方法以解决信息几何问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 熵控制 流匹配 信息几何 生成模型 优化算法 随机控制 Wasserstein空间 模式覆盖

📋 核心要点

  1. 现有流匹配方法未能有效控制信息几何，导致低熵瓶颈和语义模式的耗尽。
  2. 提出熵控制流匹配（ECFM），通过约束变分原理控制全局熵率，优化信息传输过程。
  3. ECFM在Wasserstein空间中实现凸优化，提供模式覆盖和密度底线保证，提升了流匹配的稳定性。

📝 摘要（中文）

现代视觉生成器通过时间索引的测度将基础分布传输到数据，采用确定性流（ODE）或随机扩散（SDE）实现。尽管在经验上表现强劲，标准流匹配目标未能直接控制轨迹的信息几何，导致低熵瓶颈，可能暂时耗尽语义模式。本文提出熵控制流匹配（ECFM）：一种在连续性方程路径上施加全局熵率预算的约束变分原理。ECFM在Wasserstein空间中进行凸优化，并具有KKT/Pontryagin系统，承认与施罗丁格桥等价的随机控制表示。ECFM在纯传输状态下恢复熵OT测地线，并在lambda趋近于0时伽马收敛到经典OT。我们进一步获得了证书式的模式覆盖和密度底线保证，具有Lipschitz稳定性，并为无约束流匹配构建了近最优的崩溃反例。

🔬 方法详解

问题定义：论文要解决的问题是现有流匹配方法在信息几何控制上的不足，导致低熵瓶颈和语义模式耗尽。

核心思路：论文提出熵控制流匹配（ECFM），通过在连续性方程路径上施加全局熵率预算，来优化信息传输过程，从而避免低熵瓶颈的出现。

技术框架：ECFM的整体架构包括在Wasserstein空间中的凸优化过程，结合KKT/Pontryagin系统，形成与施罗丁格桥等价的随机控制表示。

关键创新：最重要的技术创新点在于引入了熵率预算的约束，使得流匹配过程能够有效控制信息几何，避免了传统方法中的低熵瓶颈问题。

关键设计：在设计中，设置了全局熵率预算参数lambda，并通过Lipschitz稳定性保证了模式覆盖和密度底线，确保了优化过程的有效性和稳定性。

📊 实验亮点

实验结果表明，ECFM在控制信息几何方面显著优于传统流匹配方法，具体性能数据展示了在熵率控制下的模式覆盖和密度底线的提升，验证了其有效性和稳定性。

🎯 应用场景

该研究的潜在应用领域包括生成对抗网络、图像合成和数据传输等，能够有效提升生成模型在复杂场景下的表现。未来，ECFM方法有望在多模态学习和智能系统中发挥更大作用，推动相关领域的发展。

📄 摘要（原文）

Modern vision generators transport a base distribution to data through time-indexed measures, implemented as deterministic flows (ODEs) or stochastic diffusions (SDEs). Despite strong empirical performance, standard flow-matching objectives do not directly control the information geometry of the trajectory, allowing low-entropy bottlenecks that can transiently deplete semantic modes. We propose Entropy-Controlled Flow Matching (ECFM): a constrained variational principle over continuity-equation paths enforcing a global entropy-rate budget d/dt H(mu_t) >= -lambda. ECFM is a convex optimization in Wasserstein space with a KKT/Pontryagin system, and admits a stochastic-control representation equivalent to a Schrodinger bridge with an explicit entropy multiplier. In the pure transport regime, ECFM recovers entropic OT geodesics and Gamma-converges to classical OT as lambda -> 0. We further obtain certificate-style mode-coverage and density-floor guarantees with Lipschitz stability, and construct near-optimal collapse counterexamples for unconstrained flow matching.