DART: Distillation-Aware Reparameterization for Training-Free LoRA Reuse in Few-Step Video Diffusion Models
作者: Shihong Li, Juntao Xu, JinCao, Maowen Tang, Jun Huang, Jintao Li
分类: cs.AI
发布日期: 2026-09-17
💡 一句话要点
提出DART以解决视频生成中LoRA重用问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 视频生成 LoRA重用 蒸馏训练 功能保留 低秩传输
📋 核心要点
- 现有的步骤蒸馏方法在视频生成中存在重用LoRA时可能导致功能效果改变或质量下降的挑战。
- DART是一种无训练的方法，通过低秩坐标传输与目标时间表响应校准相结合，解决了LoRA重用中的功能保留问题。
- 实验结果表明，DART-F在四步Wan2.2目标上显著提高了质量评分和宏观功能保留，验证了其有效性。
📝 摘要（中文）
步骤蒸馏减少了视频生成的成本，但重用为较长轨迹训练的LoRA可能会改变其功能效果或降低目标质量。静态参数兼容性提供了一个视角；我们的观察表明，在缩短的去噪时间表下，相似的几何测量可以与不同的适配器行为共存。我们提出DART，这是一种无训练的方法，结合了低秩坐标传输和目标时间表响应校准，使用前向评估且不依赖源训练视频。在四步Wan2.2目标上，DART-F将联合质量评分从0.9029提高到0.9227，宏观功能保留从-0.4644变化到+0.1349。组件分析表明，校准占据了大部分质量提升，而坐标传输在与校准结合时提供了补充增益。适配器级结果显示某些适配器的功能效果积极，而其他适配器则在减少负功能效果方面表现出强烈的衰减。对两个额外目标的评估显示相同的总体趋势。这些结果激励我们通过功能保留和负迁移避免的联合评估蒸馏模型LoRA重用，而不假设每个适配器的恢复。
🔬 方法详解
问题定义：论文要解决的问题是如何在视频生成中有效重用经过长时间训练的LoRA，而不影响其功能效果和生成质量。现有方法在重用时可能导致适配器行为的变化，影响生成结果的质量。
核心思路：DART的核心思路是通过无训练的方式，结合低秩坐标传输和目标时间表响应校准，来实现对LoRA的有效重用。通过前向评估的方法，避免了对源训练视频的依赖，从而简化了重用过程。
技术框架：DART的整体架构包括两个主要模块：低秩坐标传输模块和目标时间表响应校准模块。前者负责在不同的时间表下传输适配器的低秩表示，后者则通过校准来优化生成质量。
关键创新：DART的最重要创新在于其无训练的特性，结合了坐标传输与响应校准的双重机制，使得在不同的去噪时间表下能够有效保留功能，避免了传统方法中对训练数据的依赖。
关键设计：在设计中，DART采用了特定的损失函数来优化校准效果，同时在坐标传输过程中保持了低秩特性，以确保在不同适配器之间的兼容性和功能保留。
🖼️ 关键图片
📊 实验亮点
实验结果显示，DART-F在四步Wan2.2目标上将联合质量评分从0.9029提升至0.9227，宏观功能保留从-0.4644改善至+0.1349，表明其在功能保留和生成质量方面的显著提升，验证了方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括视频生成、计算机视觉和多媒体内容创作等。通过提高LoRA的重用效率，DART可以降低视频生成的成本和时间，推动相关技术在实际应用中的普及与发展，具有重要的实际价值和未来影响。
📄 摘要（原文）
Step distillation reduces the cost of video generation, but reusing a LoRA trained for a longer trajectory can alter its functional effect or degrade target quality. Static parameter compatibility offers one perspective on this problem; our observations show that similar measured geometry can coexist with different adapter behavior under a shortened denoising schedule. We propose DART, a training-free method that combines low-rank coordinate transport with target-schedule response calibration using forward evaluations and no source training videos. On a four-step Wan2.2 target, DART-F improves the joint quality score from 0.9029 to 0.9227 and changes macro functional retention from -0.4644 to +0.1349. Component analysis shows that calibration accounts for most of the quality improvement, while coordinate transport provides complementary gains when combined with calibration. Adapter-level results reveal positive functional effects for some adapters and strong attenuation with reduced negative functional effects for others. Evaluations on two additional targets show the same aggregate trend. These results motivate evaluating distilled-model LoRA reuse jointly through functional preservation and negative-transfer avoidance, without assuming recovery for every adapter.