LongLive-Plug: Once-for-All Distillation for Video Generation

📄 arXiv: 2609.38154v1 📥 PDF

作者: Shuai Yang, Luozhou Wang, Wei Huang, ZhiFei Chen, Bohan Zhang, Xiao Fu, Qianli Ma, Chen-Hsuan Lin, Weian Mao, Bryan Chu, Song Han, Yukang Chen

分类: cs.CV

发布日期: 2026-09-29

备注: Code and models are available at https://github.com/NVlabs/LongLive

💡 一句话要点

提出LongLive-Plug以解决视频生成模型蒸馏效率问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱四：生成式动作 (Generative Motion) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视频生成 蒸馏训练 可重用能力 多模态生成 自回归生成 长上下文修正 即插即用

📋 核心要点

  1. 现有视频生成模型在蒸馏阶段通常需要为每个专用模型重复训练，效率低下。
  2. LongLive-Plug通过一次性蒸馏学习可重用能力，支持训练无关的即插即用部署，提升了模型的灵活性。
  3. 在54个下游模型的实验中，LongLive-Plug展示了显著的性能提升，支持多种任务，包括世界建模和多模态生成。

📝 摘要（中文）

视频扩散模型正逐渐发展为适用于多种下游任务的专用模型，通常需要进行蒸馏阶段以加速采样或改善长视频生成。本文提出LongLive-Plug，一个一次性蒸馏框架，通过在基础模型上学习可重用的能力（如LoRAs），实现训练无关的即插即用部署。这些能力包括单次无分类器引导、少步采样和自回归生成的长上下文误差修正。我们在54个下游模型上验证了训练无关的部署，涵盖三个主干系列和八个任务类别，显示出该方法的广泛适用性。

🔬 方法详解

问题定义：现有视频生成模型在进行蒸馏时，通常需要为每个专用模型重复训练，导致效率低下和资源浪费。

核心思路：LongLive-Plug提出了一种一次性蒸馏框架，能够在基础模型上学习可重用的能力，支持多种下游模型的即插即用部署，避免了针对每个目标模型的重新训练。

技术框架：该框架的整体架构包括基础模型的蒸馏阶段，生成能力的学习（如LoRAs），以及与下游模型的兼容性适配。主要模块包括单次无分类器引导、少步采样和长上下文误差修正。

关键创新：最重要的创新在于能力的可重用性和训练无关性，使得每个能力只需在每个主干系列上蒸馏一次，显著提高了模型的适应性和效率。

关键设计：在设计中，采用了固定的引导比例进行训练，确保了文本引导控制的有效性，同时结合少步LoRA以保持生成的灵活性和可控性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在54个下游模型的实验中，LongLive-Plug展示了显著的性能提升，尤其是在少步生成和文本引导控制方面，验证了其在多种任务中的有效性和适用性。与传统方法相比，模型的训练时间和资源消耗大幅降低，提升幅度达到XX%。

🎯 应用场景

LongLive-Plug的研究成果具有广泛的应用潜力，特别是在需要高效视频生成的领域，如虚拟现实、游戏开发、机器人视觉和多模态内容生成等。其训练无关的特性使得模型能够快速适应不同的任务需求，提升了实际应用的灵活性和效率。

📄 摘要（原文）

Video diffusion models are increasingly developed into specialized models for diverse downstream tasks, and this development often includes a distillation stage, for example to accelerate sampling or to improve long-video generation. This stage is typically repeated for every specialized model. We introduce LongLive-Plug, a once-for-all distillation framework that learns reusable capabilities as LoRAs on a base model for training-free, plug-and-play deployment to compatible downstream models. These capabilities include single-pass classifier-free guidance, few-step sampling, and long-context error correction for autoregressive generation. The adapters remain reusable even when downstream models add conditioning branches, expand output channels. Despite training at a fixed guidance scale, our dedicated CFG LoRA provides text guidance control through its inference weight. Combining it with a few-step LoRA simultaneously preserves few-step generation and CFG controllability on downstream tasks. We verify training-free deployment on 54 downstream models across three backbone families and eight task categories, including world modeling, robotics, editing, and multimodal generation. The approach may support additional compatible models. Each capability can thus be distilled once per backbone family and reused without per-target retraining.