Adaptive Dependency-aware Prompt Optimization Framework for Multi-Step LLM Pipeline

📄 arXiv: 2512.24933v1 📥 PDF

作者: Minjun Zhao, Xinyu Zhang, Shuai Zhang, Deyang Li, Ruifeng Shi

分类: cs.CL, cs.LG

发布日期: 2025-12-31

💡 一句话要点

提出ADOPT框架，自适应优化多步LLM流水线中的提示，提升复杂任务性能。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多步LLM流水线 提示优化 依赖关系建模 文本梯度估计 自适应资源分配

📋 核心要点

  1. 多步LLM流水线性能受各步骤提示影响，但缺乏监督和步骤依赖导致联合优化困难。
  2. ADOPT框架显式建模步骤依赖，实现精确文本梯度估计，解耦梯度估计与更新。
  3. ADOPT采用Shapley值自适应分配优化资源，实验表明其优于现有提示优化方法。

📝 摘要（中文）

多步LLM流水线通过结构化的序列多次调用大型语言模型，能够有效解决复杂任务，但其性能严重依赖于每个步骤中使用的提示。由于缺乏步骤级别的监督和步骤间的依赖关系，联合优化这些提示非常困难。现有的端到端提示优化方法在这种条件下表现不佳，并且经常产生次优或不稳定的更新。我们提出了ADOPT，一个用于多步LLM流水线的自适应依赖感知提示优化框架。ADOPT显式地建模了每个LLM步骤和最终任务结果之间的依赖关系，从而能够进行精确的文本梯度估计，类似于计算解析导数。它将文本梯度估计与梯度更新解耦，将多提示优化简化为灵活的单提示优化步骤，并采用基于Shapley值的机制来适应性地分配优化资源。在真实世界数据集和多样化流水线结构上的实验表明，ADOPT是有效且鲁棒的，始终优于最先进的提示优化基线。

🔬 方法详解

问题定义：论文旨在解决多步LLM流水线中提示优化的问题。现有端到端提示优化方法在缺乏步骤级别监督和存在步骤间依赖关系的情况下，难以有效联合优化各个步骤的提示，导致性能次优或更新不稳定。这些方法无法准确评估每个步骤提示对最终结果的影响，从而难以进行有效的梯度更新。

核心思路：ADOPT的核心思路是通过显式建模每个LLM步骤与最终任务结果之间的依赖关系，来更准确地估计文本梯度。类似于计算解析导数，ADOPT能够精确评估每个步骤提示的微小变化对最终结果的影响。此外，ADOPT将文本梯度估计与梯度更新解耦，使得多提示优化可以简化为多个独立的单提示优化步骤，从而降低了优化难度。

技术框架：ADOPT框架主要包含三个阶段：1) 依赖关系建模：通过某种方式（具体方法未知）显式地建模每个LLM步骤对最终任务结果的贡献；2) 文本梯度估计：利用建模的依赖关系，计算每个步骤提示的文本梯度，类似于计算解析导数；3) 自适应资源分配与优化：使用基于Shapley值的机制，根据每个步骤的重要性自适应地分配优化资源，并进行单提示优化。

关键创新：ADOPT的关键创新在于：1) 显式建模步骤间的依赖关系，从而能够进行更精确的文本梯度估计；2) 将文本梯度估计与梯度更新解耦，简化了多提示优化问题；3) 采用Shapley值进行自适应资源分配，提高了优化效率。与现有方法的本质区别在于，ADOPT能够更准确地评估每个步骤提示对最终结果的影响，并根据其重要性进行优化。

关键设计：论文中关于依赖关系建模的具体方法、Shapley值计算的细节、以及单提示优化器的选择等关键设计细节未知。损失函数和网络结构等信息也未知。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

ADOPT在真实世界数据集和多样化流水线结构上的实验结果表明，其性能始终优于最先进的提示优化基线。具体的性能提升幅度未知，但论文强调了ADOPT的有效性和鲁棒性，表明其在不同场景下都能稳定地提升LLM流水线的性能。

🎯 应用场景

ADOPT框架可应用于各种需要多步LLM流水线的复杂任务，例如知识图谱推理、对话系统、代码生成等。通过自适应地优化每个步骤的提示，可以显著提升LLM流水线的性能和鲁棒性，从而提高任务完成的质量和效率。该研究对于提升LLM在复杂任务中的应用具有重要价值。

📄 摘要（原文）

Multi-step LLM pipelines invoke large language models multiple times in a structured sequence and can effectively solve complex tasks, but their performance heavily depends on the prompts used at each step. Jointly optimizing these prompts is difficult due to missing step-level supervision and inter-step dependencies. Existing end-to-end prompt optimization methods struggle under these conditions and often yield suboptimal or unstable updates. We propose ADOPT, an Adaptive Dependency-aware Prompt Optimization framework for multi-step LLM pipelines. ADOPT explicitly models the dependency between each LLM step and the final task outcome, enabling precise text-gradient estimation analogous to computing analytical derivatives. It decouples textual gradient estimation from gradient updates, reducing multi-prompt optimization to flexible single-prompt optimization steps, and employs a Shapley-based mechanism to adaptively allocate optimization resources. Experiments on real-world datasets and diverse pipeline structures show that ADOPT is effective and robust, consistently outperforming state-of-the-art prompt optimization baselines.