Efficient Multi-objective Prompt Optimization via Pure-exploration Bandits

📄 arXiv: 2605.14553v1 📥 PDF

作者: Donghao Li, Chengshuai Shi, Weijuan Ou, Cong Shen, Jing Yang

分类: cs.LG, cs.AI

发布日期: 2026-05-14

备注: Published as a conference paper at ICLR 2026

💡 一句话要点

提出基于纯探索Bandit算法的高效多目标Prompt优化方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: Prompt工程 多目标优化 纯探索Bandit 大型语言模型 Pareto优化 最佳可行臂 结构化Bandit

📋 核心要点

  1. 现有prompt工程方法难以捕捉prompt性能的多方面性，通常依赖单一指标进行优化。
  2. 论文提出基于纯探索Bandit算法的多目标prompt优化框架，解决Pareto prompt集恢复和最佳可行prompt识别问题。
  3. 实验结果表明，该方法在多个LLM上显著优于基线方法，为多目标prompt优化提供了高效方案。

📝 摘要（中文）

Prompt工程已成为激发大型语言模型(LLM)能力的关键。其核心在于prompt选择——高效地识别最有效的prompt。然而，现有研究大多忽略了一个关键挑战：prompt性能固有的多方面性，无法用单一指标捕捉。为了填补这一空白，我们研究了两种实际场景下的多目标prompt选择问题：Pareto prompt集恢复和最佳可行prompt识别。我们将该问题置于纯探索Bandit框架下，调整了多目标Bandit中已证明有效的算法，并进一步为结构化Bandit中的最佳可行臂识别引入了一种新颖的设计，在线性情况下具有识别误差的理论保证。在多个LLM上进行的大量实验表明，基于Bandit的方法比基线方法产生了显著的改进，从而为多目标prompt优化建立了一个有原则且高效的框架。

🔬 方法详解

问题定义：论文旨在解决多目标prompt选择问题，即在多个评价指标下，如何高效地找到一组Pareto最优的prompt，或者找到满足特定约束条件下的最佳prompt。现有方法通常只关注单一目标，无法全面评估prompt的性能，或者效率较低，难以在大规模prompt空间中搜索。

核心思路：论文将多目标prompt选择问题建模为纯探索Bandit问题。Bandit算法能够在探索（尝试不同的prompt）和利用（选择已知表现最好的prompt）之间进行平衡，从而高效地找到最优prompt。针对多目标特性，需要设计合适的奖励函数和探索策略。

技术框架：整体框架包括以下几个步骤：1）定义多个评价prompt性能的目标函数；2）将prompt选择视为多臂Bandit问题，每个prompt对应一个臂；3）使用纯探索Bandit算法（如多目标Thompson Sampling或UCB）选择prompt进行评估；4）根据prompt的评估结果更新Bandit算法的参数；5）重复步骤3和4，直到达到预定的停止条件。对于最佳可行臂识别问题，论文还提出了针对结构化Bandit的新设计。

关键创新：论文的关键创新在于将多目标prompt选择问题与纯探索Bandit算法相结合，并针对该问题设计了新的算法。具体来说，针对最佳可行臂识别问题，提出了在结构化Bandit场景下的新算法设计，并给出了线性情况下的理论保证。这使得算法能够更有效地利用prompt之间的结构信息，从而提高搜索效率。

关键设计：论文针对不同的多目标prompt选择问题，采用了不同的Bandit算法。对于Pareto prompt集恢复问题，可以采用多目标Thompson Sampling或UCB等算法。对于最佳可行臂识别问题，需要设计合适的奖励函数，以反映prompt是否满足约束条件。此外，对于结构化Bandit，需要设计合适的探索策略，以利用prompt之间的结构信息。具体参数设置和损失函数取决于具体的LLM和任务。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，基于Bandit的方法在多个LLM上显著优于基线方法。例如，在Pareto prompt集恢复问题中，基于Bandit的方法能够更快地找到更好的Pareto最优prompt集。在最佳可行prompt识别问题中，基于Bandit的方法能够更准确地找到满足约束条件的最佳prompt。具体的性能提升幅度取决于具体的LLM、任务和评价指标。

🎯 应用场景

该研究成果可广泛应用于各种需要prompt工程的LLM应用中，例如文本生成、问答系统、对话系统等。通过高效地选择prompt，可以显著提高LLM的性能和用户体验。此外，该方法还可以应用于其他多目标优化问题，例如超参数优化、模型选择等。

📄 摘要（原文）

Prompt engineering has become central to eliciting the capabilities of large language models (LLMs). At its core lies prompt selection -- efficiently identifying the most effective prompts. However, most prior investigations overlook a key challenge: the inherently multi-faceted nature of prompt performance, which cannot be captured by a single metric. To fill this gap, we study the multi-objective prompt selection problem under two practical settings: Pareto prompt set recovery and best feasible prompt identification. Casting the problem into the pure-exploration bandits framework, we adapt provably efficient algorithms from multi-objective bandits and further introduce a novel design for best feasible arm identification in structured bandits, with theoretical guarantees on the identification error in the linear case. Extensive experiments across multiple LLMs show that the bandit-based approaches yield significant improvements over baselines, establishing a principled and efficient framework for multi-objective prompt optimization.