Manifold-Stable Flow Matching
作者: Amirhossein Nazerian, Ali Pezeshki, Jianguo Zhao
分类: cs.LG, cs.RO, eess.SY
发布日期: 2026-09-28
💡 一句话要点
提出流匹配方法以解决流生成中的流形约束问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)
关键词: 流匹配 流形学习 非线性动力学 收缩理论 机器人控制 生成模型 任务性能
📋 核心要点
- 现有的流匹配方法在缺乏几何知识时,无法保证生成样本遵循流形,导致性能下降。
- 论文提出的流形稳定流匹配(MSFM)方法,结合了学习的切向传输与法向收缩,能从任意先验开始。
- 在多个实验中,MSFM显著提高了任务成功率,如Push-T任务成功率从74%提升至82%。
📝 摘要(中文)
流匹配(FM)通过速度回归学习生成动态。几何FM变种通常假设数据流形上存在先验知识,但这种知识往往不可得。缺乏这种知识时,低回归误差并不能保证流形遵循性。流形遵循性确保生成样本在有效配置内,并与更好的任务性能相关。我们提出了流形稳定流匹配(MSFM),可以从任意环境先验开始,而不必依赖于流形。利用非线性动力学中的收缩理论,MSFM结合了学习的切向传输与规定的法向收缩。通过已知流形的解析投影器和通过主成分分析估计的局部仿射代理,MSFM在已知和未知流形的情况下实施收缩理论,确保流形不变性和在期望时间窗口内的横向收敛。实验结果表明,MSFM在多个任务中显著提高了成功率和几何遵循性。
🔬 方法详解
问题定义:论文旨在解决流匹配方法在缺乏几何知识时无法保证生成样本遵循流形的问题。现有方法依赖于流形的先验知识,导致在未知情况下性能不佳。
核心思路:论文提出流形稳定流匹配(MSFM),通过结合学习的切向传输与规定的法向收缩,允许从任意环境先验开始,确保生成样本在流形内。
技术框架:MSFM的整体架构包括两个主要模块:切向传输模块和法向收缩模块。切向传输模块负责学习样本在流形上的运动,而法向收缩模块则确保样本在生成过程中保持在流形内。
关键创新:MSFM的核心创新在于能够在已知和未知流形的情况下实施收缩理论,确保流形不变性和横向收敛。这一设计与传统方法的依赖于几何知识的方式本质上不同。
关键设计:论文中使用了已知流形的解析投影器和通过主成分分析估计的局部仿射代理,损失函数分解为可学习的切向项和法向残差,从而实现更好的训练效果。
🖼️ 关键图片
📊 实验亮点
在实验中,MSFM在椭圆实验中实现了平均终端离流形误差达到$10^{-6}$,在Push-T机器人实验中成功率从74%提升至82%,在Robomimic Square任务中成功率从60%提升至72%,同时旋转流形偏差从$10^{-2}$降低至$10^{-7}$。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、动态系统建模和生成对抗网络等。通过提高生成样本的流形遵循性,MSFM可在复杂任务中实现更高的成功率,具有重要的实际价值和未来影响。
📄 摘要(原文)
Flow matching (FM) learns generative dynamics through velocity regression. Geometric FM variants commonly assume a prior supported on the data manifold, requiring geometric knowledge that is often unavailable. Without such knowledge, low regression error alone does not guarantee manifold adherence. Adherence keeps generated samples within valid configurations and is empirically associated with better task performance. We introduce manifold-stable flow matching (MSFM), which can start from an arbitrary ambient prior, not necessarily supported on the manifold. Using tools from nonlinear dynamics, namely contraction theory, MSFM combines learned tangential transport with prescribed normal contraction. The construction uses analytical projectors for known manifolds and local affine proxies estimated by principal component analysis for unknown data geometry. By implementing contraction theory in both cases of known and unknown manifolds, we guarantee manifold invariance and transverse convergence to the manifold within a desired time window (e.g., one second). We derive a family of compatible probability paths and decompose the training loss into a learnable tangential term and a normal residual. An ellipse experiment attains a mean terminal off-manifold error of order $10^{-6}$. In Push-T robotic experiments, MSFM raises success from $74\%$ to $82\%$. In the Robomimic Square task, success increases from $60\%$ to $72\%$, while rotation-manifold deviation decreases from order $10^{-2}$ to $10^{-7}$. The MSFM terminal geometric errors are controlled by the chosen numerical tolerance. These results demonstrate stronger geometric adherence and higher observed task performance, supporting prescribed normal contraction as a complement to learned generative transport.