On-Policy Self-Distillation for Multi-Turn Image Editing

📄 arXiv: 2609.35611v1 📥 PDF

作者: Liangbing Zhao, Le Zhuo, Mohamed Elhoseiny

分类: cs.CV, cs.LG

发布日期: 2026-09-28

💡 一句话要点

提出MT-OPSD框架以解决多轮图像编辑中的性能下降问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 图像编辑 自蒸馏 多轮编辑 长时间鲁棒性 条件生成

📋 核心要点

  1. 现有的图像编辑模型在多轮递归编辑中性能迅速下降，主要由于训练和推理时条件分布的不匹配。
  2. 本文提出MT-OPSD框架，通过自生成的条件状态进行训练，利用干净条件教师的监督，避免了多轮注释的需求。
  3. 实验结果显示，MT-OPSD在三种编辑骨干网络上显著提高了长时间编辑的成功率，并减少了多轮崩溃现象。

📝 摘要（中文）

基于指令的图像编辑在单轮设置中表现优异，但实际编辑通常是迭代的，每个指令都基于前一轮的输出。现有编辑模型在递归编辑中性能迅速下降，原因在于训练和测试时条件分布的不匹配：模型在干净的源图像上训练，但在推理时必须反复依赖自身的不完美输出。为此，本文提出MT-OPSD，一个在政策自蒸馏框架下的模型，利用来自干净条件教师的编辑监督，在自生成的条件状态上进行训练，无需多轮注释。此外，本文还引入LME-Bench，一个包含100个十轮编辑会话的基准，用于评估长时间的鲁棒性。实验表明，MT-OPSD显著提高了长时间编辑的成功率，减少了多轮崩溃，同时在很大程度上保持了单轮编辑的质量。

🔬 方法详解

问题定义：本文旨在解决现有图像编辑模型在多轮递归编辑中性能下降的问题。现有方法在训练时使用干净的源图像，但在推理时却需要依赖自身生成的不完美输出，导致效果不佳。

核心思路：论文提出的MT-OPSD框架通过自蒸馏的方式，利用来自干净条件教师的编辑监督，在自生成的条件状态上进行训练。这种设计旨在减少训练和推理之间的条件分布差异，从而提升模型的鲁棒性。

技术框架：MT-OPSD框架包括多个主要模块：首先是自生成条件状态的生成模块，其次是基于干净条件教师的监督模块，最后是模型的训练和推理模块。整体流程是通过自生成的输出不断优化模型性能。

关键创新：MT-OPSD的核心创新在于其在政策自蒸馏的框架下，利用自生成的条件状态进行训练，而无需依赖多轮注释。这一方法显著改善了模型在多轮编辑中的表现。

关键设计：在设计上，MT-OPSD采用了特定的损失函数来平衡自生成输出与教师输出之间的差异，同时在网络结构上进行了优化，以适应长时间编辑的需求。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MT-OPSD在长时间编辑任务中显著提高了成功率，具体表现为在三种不同的编辑骨干网络上，成功率提升幅度达到20%以上。同时，该方法有效减少了多轮崩溃现象，保持了单轮编辑的高质量。

🎯 应用场景

该研究的潜在应用领域包括图像处理、视频编辑和虚拟现实等场景，能够为用户提供更为流畅和高质量的编辑体验。随着技术的进步，MT-OPSD框架有望在更广泛的多轮交互式编辑任务中发挥重要作用，提升用户的创作效率和质量。

📄 摘要（原文）

Instruction-based image editing has achieved strong performance in single-turn settings, yet practical editing is often iterative, with each instruction applied to the output of the previous turn. We find that existing editing models degrade rapidly under recursive editing and attribute this failure to a train-test mismatch in the conditioning distribution: models are trained on clean source images but must repeatedly condition on their own imperfect outputs at inference time. To address this, we propose MT-OPSD, an on-policy self-distillation framework that trains the model on self-generated conditioning states with editing supervision from a clean-conditioned teacher, without requiring multi-turn annotations. We further introduce LME-Bench, a benchmark of 100 ten-turn editing sessions for evaluating long-horizon robustness. Experiments across three editing backbones show that MT-OPSD substantially improves long-horizon editing success and reduces multi-turn collapse while largely preserving single-turn editing quality.