Rethinking Prediction Horizons: Decoupling Model Queries from State Updates in Few-Step MeanFlow
作者: Tinglan Wang, Haixu Liu, Shaobo Chen, Nuo Qian, Qi Gao, Kai Wen, Yu Yao
分类: cs.LG, cs.AI
发布日期: 2026-10-14
备注: 36 pages, including appendices
💡 一句话要点
提出MeanFlow模型以解耦预测视野与状态更新问题
🎯 匹配领域: 支柱四:生成式动作 (Generative Motion)
关键词: MeanFlow 预测视野 状态更新 CIFAR-10 计算机视觉 图像生成 模型优化
📋 核心要点
- 现有的Few-Step MeanFlow模型将预测区间与状态更新绑定,限制了模型的灵活性和性能。
- 本文提出将预测视野与状态更新解耦,固定模型和查询数量,探索不同预测视野对结果的影响。
- 实验表明,采用新的四查询规则可在不重训练的情况下显著降低CIFAR-10的FID,提升效果明显。
📝 摘要(中文)
MeanFlow模型预测区间平均速度,但传统的少步采样将模型查询的区间与状态更新的持续时间绑定在一起。本文在推理时将这两者分离,固定模型、更新网格和查询数量,同时变化预测视野。研究发现,视野响应依赖于查询位置和进入该查询的状态。通过对七个独立训练的CIFAR-10检查点进行实验,结果显示较长的视野在早期步骤中会导致FID恶化,但在中间步骤时则有所改善。固定中点查询和当前/后续指导的情况下,早期CFG的变化对结果有显著影响。
🔬 方法详解
问题定义:本文旨在解决Few-Step MeanFlow模型中预测视野与状态更新绑定的问题。现有方法在灵活性和性能上存在局限性,影响了模型的预测效果。
核心思路:论文提出在推理过程中将预测视野与状态更新解耦,固定模型、更新网格和查询数量,同时变化预测视野,以探讨其对模型性能的影响。
技术框架:整体架构包括固定模型和查询数量的设置,采用不同的预测视野进行实验。主要模块包括状态更新、查询位置选择和性能评估。
关键创新:最重要的创新在于将预测视野视为一种独立的推理控制,能够根据查询位置和状态敏感性进行调整,这与传统方法的绑定方式形成鲜明对比。
关键设计:在实验中,采用了固定的四查询规则,显著降低了CIFAR-10的FID。同时,设计了不同的CFG设置,以探讨早期CFG对中点查询的影响。实验还包括对多个检查点的评估,以验证方法的普适性。
🖼️ 关键图片
📊 实验亮点
实验结果显示,采用新的四查询规则可将CIFAR-10的平均FID降低2.023,且在多个检查点上均表现出显著的性能提升。此外,固定规则在公共数据集ImageNet-256和AFHQ上也取得了良好的FID改善,验证了方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括计算机视觉中的图像生成、视频预测以及其他需要动态状态更新的任务。通过解耦预测视野与状态更新,模型能够在不同场景下灵活调整,提高预测精度和效率,具有重要的实际价值和未来影响。
📄 摘要(原文)
MeanFlow predicts interval-average velocities, but conventional few-step sampling ties the interval queried from the model to the duration of the state update. We separate these two quantities at inference, fixing the model, update grid, and number of queries while varying the prediction horizon. Our central finding is that the horizon response depends on both query position and the states entering that query. Across seven independently trained CIFAR-10 checkpoints at classifier-free guidance (CFG) scale 2, a longer horizon worsens FID at early steps but improves it at the midpoint. To probe whether query time alone determines this response, we fix the midpoint query and current/subsequent guidance while changing only earlier CFG. In held-out factorial outcomes on five previously studied checkpoints, the mean midpoint horizon benefit increases from 0.109 to 1.308 FID, indicating sensitivity to the incoming-state distribution. A frozen four-query rule reduces mean CIFAR-10 FID by 2.023 without retraining or extra queries, including gains on five checkpoints trained after rule selection. A milder rule also improves mean FID by 1.041 on a stronger frozen grid, with fixed-rule FID gains on the evaluated public ImageNet-256 and AFHQ checkpoints. However, matched-budget calibration favors query-start shifting in historical CIFAR tests, and the tested Horizon allocation adds no FID benefit beyond Grid+Start on two public ImageNet models. Thus, prediction horizon is a distinct, position- and state-sensitive inference control, but not a universally preferred one.