Beyond Transport Cost: Routing Differences between Flow Matching and Optimal Transport

📄 arXiv: 2610.05921v1 📥 PDF

作者: Eungyeol Han, Jong-Seok Lee

分类: cs.LG, cs.CV

发布日期: 2026-10-05

💡 一句话要点

提出基于路由的流匹配方法以优化生成模型

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 生成模型 最优传输 流匹配 路由设计 耦合优化 深度学习 神经网络

📋 核心要点

  1. 现有的生成模型在使用最优传输（OT）与流匹配（FM）时，往往仅依赖于成本来指导耦合设计，忽视了路由的影响。
  2. 论文提出通过将传输成本与路由分离，探索FM与OT在路由上的差异，并构建路由感知的训练耦合来优化生成效果。
  3. 实验结果表明，路由感知的耦合在生成质量上相较于仅考虑成本的模型有显著提升，展示了路由的重要性。

📝 摘要（中文）

在生成模型中，最优传输（OT）被用于通过减少噪声与数据的耦合成本来改进流匹配（FM）。然而，不同的噪声到输出的分配可能导致几乎相等的成本，这引发了一个关键问题：仅靠成本是否足以指导耦合设计？我们通过将传输成本与路由分离来解决这个问题，展示了FM与OT在路由上的差异，同时保持成本接近。我们进一步构建了一个路由感知的训练耦合，发现其在生成上相较于仅考虑成本的对照组有方向性一致的提升。我们的研究强调了成本最小化可能忽视的因素，并激励在评估OT基础的FM耦合设计时同时考虑成本与路由。

🔬 方法详解

问题定义：本论文旨在解决生成模型中流匹配（FM）与最优传输（OT）在耦合设计上的不足，尤其是仅依赖成本可能导致的设计盲点。现有方法往往忽视了路由的影响，导致生成效果不理想。

核心思路：论文的核心思路是将传输成本与路由分离，分析不同噪声样本的目标输出如何影响生成质量。通过引入路由感知的训练耦合，提升生成模型的性能。

技术框架：整体架构包括两个主要模块：1）基于FM的生成模型，使用精确的FM路由作为oracle；2）路由感知的训练耦合，通过优化路由与成本的结合来提升生成效果。

关键创新：最重要的技术创新在于提出了路由感知的耦合设计，强调了路由在生成模型中的重要性，与传统仅依赖成本的设计方法形成鲜明对比。

关键设计：在模型设计中，采用了特定的损失函数来平衡成本与路由的影响，并在网络结构中引入了路由模块，以确保生成过程中的一致性和方向性提升。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，路由感知的耦合在生成质量上相较于仅考虑成本的对照组有方向性一致的提升，具体表现为生成样本的多样性和一致性显著提高，验证了路由设计的重要性。

🎯 应用场景

该研究的潜在应用领域包括图像生成、文本生成和其他生成模型的优化。通过引入路由感知的耦合设计，可以在多个生成任务中实现更高质量的输出，具有重要的实际价值和未来影响。

📄 摘要（原文）

In generative models, Optimal Transport (OT) is used to improve Flow Matching (FM) by reducing noise-data coupling cost. However, different noise-to-output assignments can yield nearly equal costs, raising a key question. Is cost alone sufficient to guide coupling design? We address this question by separating transport cost from routing, i.e., the destination reached by each noise sample. We show numerically how FM and OT can differ in routing while remaining close in cost. We examine its consequences in learned neural FM. Using the exact FM routing as an oracle, we further construct a routing-aware training coupling and find that it yields a directionally consistent improvement in generation over a cost-matched, cost-only counterpart. Our findings highlight what cost minimization can overlook and motivate using both cost and routing to evaluate the design of OT-based FM couplings. Code will be released upon acceptance.