Contextual Flow Matching: Adaptive Step Selection in Flow Models for Efficient Visual Generation
作者: Divya Jyoti Bajpai, Arun Verma, Manjesh Kumar Hanawal
分类: cs.CV, cs.AI
发布日期: 2026-10-02
备注: Accepted in NeurIPS 2026
💡 一句话要点
提出COFLOW以解决流模型推理效率低下问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)
关键词: 流匹配 视觉生成 推理效率 上下文感知 无监督学习
📋 核心要点
- 现有流匹配方法在推理过程中需要多次序列函数评估,导致计算成本高昂。
- COFLOW通过上下文感知的方式,自适应选择生成步骤,优化推理效率与生成质量的平衡。
- 实验结果表明,COFLOW在图像和视频生成任务中实现了超过2.5倍的速度提升,同时保持了高质量的生成效果。
📝 摘要(中文)
流匹配通过连续时间动态实现高质量视觉生成,但推理过程因多次序列函数评估而成本高昂。现有加速方法虽减少函数评估次数,但常引入额外训练开销、降低生成质量或未能考虑输入依赖的变异性。我们提出COFLOW,一种在推理时根据提示特征自适应选择生成步骤的方法。我们的上下文感知COFLOW在线训练,使用无监督奖励平衡推理效率与生成保真度。该方法即插即用,无需重新训练基础生成模型,适用于图像和视频生成,实现超过2.5倍的速度提升,同时保持感知和语义质量。我们还提供了理论分析,建立了在标准正则性条件下的O(1/K)前向欧拉离散化误差界限。
🔬 方法详解
问题定义:本文旨在解决流匹配模型在推理阶段的高计算成本问题。现有方法在减少函数评估次数的同时,常常引入额外的训练开销或降低生成质量。
核心思路:我们提出COFLOW方法,通过上下文感知的方式,根据输入提示特征自适应选择生成步骤,从而提高推理效率并保持生成的保真度。
技术框架:COFLOW的整体架构包括在线训练模块和推理模块。在线训练模块使用无监督奖励机制来优化推理效率与生成质量的平衡,而推理模块则根据输入特征动态调整生成步骤。
关键创新:COFLOW的主要创新在于其上下文感知的自适应步骤选择机制,这一设计使得模型能够在推理时根据具体输入动态调整计算资源的使用,显著提高了效率。
关键设计:在设计中,我们采用了无监督奖励机制来训练模型,确保推理效率与生成质量之间的平衡。此外,模型的参数设置和损失函数设计均经过精心调整,以适应不同类型的生成任务。
🖼️ 关键图片
📊 实验亮点
实验结果显示,COFLOW在图像和视频生成任务中实现了超过2.5倍的速度提升,相较于现有基线方法,生成的视觉质量在感知和语义上均得到了有效保留。这一显著的性能提升展示了COFLOW在实际应用中的巨大潜力。
🎯 应用场景
COFLOW的研究成果在图像和视频生成领域具有广泛的应用潜力。其高效的推理能力使得实时生成和交互式应用成为可能,能够在游戏、虚拟现实以及影视制作等多个领域发挥重要作用。未来,随着技术的进一步发展,COFLOW有望推动更高质量的视觉内容生成。
📄 摘要(原文)
Flow Matching enables high-quality visual generation via continuous-time dynamics, but inference remains costly due to multiple sequential function evaluations. Existing acceleration methods reduce the number of function evaluations but often introduce additional training overhead, degrade quality, or fail to account for input-dependent variability. We propose COFLOW, an inference-time method that adaptively selects the step counts each generation based on the prompt features. Our context-aware COFLOW is trained online with an unsupervised reward that balances inference efficiency and generation fidelity. Our method is plug-and-play, requiring no retraining of the underlying generative model. It generalizes to image and video generation, achieving over 2.5x speedup while preserving perceptual and semantic quality. We further provide a theoretical analysis establishing an O(1/K) forward-Euler discretization error bound under standard regularity conditions.