Planned Diffusion

📄 arXiv: 2510.18087v1 📥 PDF

作者: Daniel Israel, Tian Jin, Ellie Cheng, Guy Van den Broeck, Aditya Grover, Suvinay Subramanian, Michael Carbin

分类: cs.AI

发布日期: 2025-10-20

备注: 10 pages, 8 figures

💡 一句话要点

提出Planned Diffusion，结合自回归与扩散模型优势，加速高质量文本生成。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 文本生成 扩散模型 自回归模型 并行生成 速度优化

📋 核心要点

  1. 现有自回归模型生成文本质量高，但速度慢；扩散模型速度快，但质量难以保证。
  2. Planned Diffusion 结合自回归模型的规划能力和扩散模型的并行生成能力，实现速度与质量的平衡。
  3. 实验表明，Planned Diffusion 在保证文本质量的前提下，显著提升了文本生成速度，实现了帕累托最优。

📝 摘要（中文）

大型语言模型推理的核心挑战是在生成速度和输出质量之间进行权衡。自回归模型产生高质量的文本，但需要顺序生成token。扩散模型可以并行生成token，但通常需要多次迭代才能达到相同的质量。我们提出了planned diffusion，一种混合方法，结合了两种范式的优点。Planned diffusion分两个阶段工作：首先，模型创建一个短的自回归计划，将输出分解为更小的、独立的片段。其次，模型使用扩散同时生成这些片段。这种方法扩展了速度-质量的帕累托前沿，并为更快、更高质量的文本生成提供了一条实用的途径。在AlpacaEval（包含805个指令遵循提示的套件）上，planned diffusion实现了质量和延迟之间的帕累托最优权衡，与自回归生成相比，分别实现了1.27倍至1.81倍的加速，而胜率仅下降了0.87%至5.4%。我们的敏感性分析表明，planned diffusion的规划机制是最小且可靠的，并且存在简单的运行时旋钮来灵活控制质量-延迟的权衡。

🔬 方法详解

问题定义：大型语言模型在文本生成时面临速度和质量的权衡问题。自回归模型虽然能生成高质量文本，但由于其顺序生成的方式，速度较慢。扩散模型虽然可以并行生成，但往往需要多次迭代才能达到与自回归模型相当的质量。因此，如何兼顾生成速度和质量是一个重要的挑战。

核心思路：Planned Diffusion 的核心思路是将文本生成过程分解为两个阶段：首先，使用自回归模型生成一个简短的“计划”，将整个文本分解为若干个独立的片段；然后，使用扩散模型并行地生成这些片段。这样，既利用了自回归模型的规划能力，又利用了扩散模型的并行生成能力，从而在速度和质量之间取得平衡。

技术框架：Planned Diffusion 的整体框架包含两个主要阶段：1) 规划阶段：使用一个自回归模型（例如，一个小型语言模型）生成一个简短的计划，该计划将目标文本分解为若干个独立的片段。每个片段都包含起始位置和长度等信息。2) 扩散生成阶段：使用一个扩散模型，根据规划阶段生成的计划，并行地生成各个片段。扩散模型以规划信息作为条件，生成相应的文本片段。

关键创新：Planned Diffusion 的关键创新在于将自回归模型的规划能力与扩散模型的并行生成能力相结合。与传统的自回归模型相比，Planned Diffusion 可以显著提高生成速度。与传统的扩散模型相比，Planned Diffusion 可以通过规划阶段的引导，生成更高质量的文本。

关键设计：在规划阶段，可以使用不同的自回归模型，并调整计划的长度和粒度，以控制速度和质量之间的权衡。在扩散生成阶段，可以使用不同的扩散模型架构和训练方法。此外，还可以设计特定的损失函数，以鼓励模型生成符合规划的文本片段。运行时可以通过调整规划的长度和扩散模型的迭代次数来灵活控制质量-延迟的权衡。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在 AlpacaEval 数据集上，Planned Diffusion 在保证文本质量的前提下，实现了显著的加速。具体而言，与自回归模型相比，Planned Diffusion 实现了 1.27 倍至 1.81 倍的加速，而胜率仅下降了 0.87% 至 5.4%。这一结果表明，Planned Diffusion 在速度和质量之间取得了良好的平衡，具有很强的实用价值。

🎯 应用场景

Planned Diffusion 可应用于各种需要快速生成高质量文本的场景，例如：机器翻译、文本摘要、对话生成、代码生成等。该方法可以显著提升生成速度，并保证输出质量，从而提高用户体验和工作效率。未来，Planned Diffusion 有望成为一种通用的文本生成方法，并推动相关领域的发展。

📄 摘要（原文）

A central challenge in large language model inference is the trade-off between generation speed and output quality. Autoregressive models produce high-quality text but generate tokens sequentially. Diffusion models can generate tokens in parallel but often need many iterations to match the same quality. We propose planned diffusion, a hybrid method that combines the strengths of both paradigms. Planned diffusion works in two stages: first, the model creates a short autoregressive plan that breaks the output into smaller, independent spans. Second, the model generates these spans simultaneously using diffusion. This approach expands the speed-quality Pareto frontier and provides a practical path to faster, high-quality text generation. On AlpacaEval, a suite of 805 instruction-following prompts, planned diffusion achieves Pareto-optimal trade-off between quality and latency, achieving 1.27x to 1.81x speedup over autoregressive generation with only 0.87\% to 5.4\% drop in win rate, respectively. Our sensitivity analysis shows that the planning mechanism of planned diffusion is minimal and reliable, and simple runtime knobs exist to provide flexible control of the quality-latency trade-off.