Physical Fidelity Reconstruction via Improved Consistency-Distilled Flow Matching for Dynamical Systems
作者: Sicheng Ma, Tianyue Yang, Xiuzhe Wu, Xiao Xue
分类: cs.LG, physics.flu-dyn
发布日期: 2026-05-07
💡 一句话要点
提出一致性蒸馏流动匹配方法，加速高精度动力系统物理场重建。
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 流动匹配 一致性蒸馏 流场重建 科学机器学习 物理仿真 模型压缩 单步推理
📋 核心要点
- 现有流场重建方法依赖迭代采样，计算成本高昂，难以满足实时性要求。
- 通过一致性蒸馏，将高精度流动匹配模型压缩为单步模型，加速推理过程。
- 实验表明，蒸馏模型在保证性能的同时，显著减少参数量和推理时间，并提升训练效率。
📝 摘要（中文）
从低精度观测重建高精度流场是科学机器学习中的核心问题。然而，现有的扩散模型和流动匹配模型通常依赖于迭代采样，这使得它们对于延迟敏感的工作流程（如集成预测、实时可视化和模拟循环推理）来说成本过高。本文研究了如何将高精度流动匹配生成模型压缩成紧凑的单步模型，以实现快速的科学流重建。该方法将最优传输流动匹配教师模型提炼成单步一致性模型。通过从沿传输路径的噪声观测初始化生成轨迹，在推理时整合低精度观测，从而允许无条件高精度流动模型执行条件重建，而无需重新训练教师模型。在烟雾浮力、湍流通道流和Kolmogorov流这三个流体基准上评估了这种蒸馏策略，使用粗到细重建作为高达256x256场大小的受控测试平台。在这些设置中，蒸馏后的学生模型在频谱指标上保持了与教师模型相似的性能，同时使用大约一半的参数，并且实现了比流动匹配教师模型快12倍的推理速度。在相同的训练预算下，蒸馏后的学生模型在SSIM方面也优于从头开始直接训练的单步一致性模型23.1％，表明教师蒸馏提高了训练效率，而不仅仅是加速了采样。这些结果表明，将未来的高容量科学生成模型转化为紧凑的重建模型是一条有希望的途径，这些模型训练更快、运行成本更低且更易于部署。
🔬 方法详解
问题定义：论文旨在解决从低精度观测中快速重建高精度流场的问题。现有的基于扩散模型或流动匹配的方法，由于需要迭代采样，计算成本高，难以应用于对延迟敏感的场景，例如实时可视化和模拟循环推理。
核心思路：论文的核心思路是将一个高精度的流动匹配生成模型（教师模型）蒸馏成一个单步一致性模型（学生模型）。通过知识蒸馏，学生模型可以在保证重建精度的前提下，显著减少推理时间。同时，利用低精度观测初始化生成轨迹，使得无条件高精度模型能够进行条件重建。
技术框架：整体框架包含两个阶段：首先训练一个高精度的流动匹配教师模型；然后，使用一致性蒸馏方法将教师模型的知识迁移到单步一致性学生模型。在推理阶段，利用低精度观测初始化学生模型的生成轨迹，从而实现快速高精度的流场重建。
关键创新：论文的关键创新在于使用一致性蒸馏来压缩流动匹配模型，使其能够进行单步推理，从而显著加速流场重建过程。此外，通过在推理时利用低精度观测初始化生成轨迹，实现了无条件模型对条件重建任务的应用，避免了重新训练教师模型。
关键设计：论文使用最优传输流动匹配作为教师模型，并采用一致性模型作为学生模型。损失函数的设计旨在使学生模型的输出与教师模型在传输路径上的输出保持一致。具体的网络结构和参数设置在论文中进行了详细描述，以保证学生模型能够有效地学习教师模型的知识。
🖼️ 关键图片
📊 实验亮点
实验结果表明，蒸馏后的学生模型在频谱指标上与教师模型保持相似的性能，同时参数量减少约一半，推理速度提升12倍。在相同训练预算下，蒸馏学生模型在SSIM指标上比直接训练的单步一致性模型高出23.1%。这些结果验证了该方法在加速推理和提高训练效率方面的有效性。
🎯 应用场景
该研究成果可广泛应用于需要快速流场重建的领域，如：天气预报、空气动力学仿真、实时流体可视化、以及模拟循环推理等。通过降低计算成本，该方法有望推动高精度流体模拟在更多实际场景中的应用，并加速相关领域的科学研究和工程实践。
📄 摘要（原文）
Reconstructing high-fidelity flow fields from low-fidelity observations is a central problem in scientific machine learning, yet recent diffusion and flow-matching models typically rely on iterative sampling, making them costly for latency-sensitive workflows such as ensemble forecasting, real-time visualization, and simulation-in-the-loop inference. We study whether a high-fidelity flow-matching generative model can be compressed into a compact one-step model for fast scientific flow reconstruction. Our approach distills an optimal-transport flow-matching teacher into a one-step consistency model. Low-fidelity observations are incorporated at inference by initializing the generative trajectory from a noised observation along the transport path, allowing an unconditional high-fidelity flow model to perform conditional reconstruction without retraining the teacher. We evaluate this distillation strategy on three fluid benchmarks, Smoke Buoyancy, Turbulent Channel Flow, and Kolmogorov Flow, using coarse-to-fine reconstruction as a controlled testbed at field sizes up to $256 \times 256$. Across these settings, the distilled student retains similar performance of the teacher's model on spectrum metrics, while using roughly half as many parameters and achieving a $12\times$ inference speedup over the flow-matching teacher. Under the same training budget, the distilled student also outperforms a one-step consistency model trained directly from scratch by $23.1\%$ in SSIM, showing that teacher distillation improves training efficiency rather than merely accelerating sampling. These results suggest a promising route for turning future high-capacity scientific generative models into compact reconstruction models that are faster to train, cheaper to run, and easier to deploy.