No Loss, No Gain: Gated Refinement and Adaptive Compression for Prompt Optimization

📄 arXiv: 2509.23387v1 📥 PDF

作者: Wenhang Shi, Yiren Chen, Shuqing Bian, Xinyi Zhang, Kai Tang, Pengfei Hu, Zhe Zhao, Wei Lu, Xiaoyong Du

分类: cs.CL

发布日期: 2025-09-27

备注: 10 pages for main content

🔗 代码/项目: GITHUB

💡 一句话要点

提出GRACE框架，通过门控优化和自适应压缩提升Prompt优化效率与性能。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: Prompt优化 大型语言模型 门控机制 自适应压缩 局部最优 高效优化 反馈调节 更新拒绝

📋 核心要点

  1. 现有Prompt优化方法难以稳定生成改进Prompt，效率低且易陷入局部最优。
  2. GRACE框架通过门控优化稳定Prompt更新，自适应压缩跳出局部最优，提升优化效率。
  3. 实验表明，GRACE在多个任务上显著优于现有方法，且仅需25%的计算资源。

📝 摘要（中文）

Prompt工程对于充分利用大型语言模型（LLMs）至关重要。自动prompt优化为代价高昂的手动设计提供了一种可扩展的替代方案，但生成有效的prompt仍然具有挑战性。现有方法通常难以稳定地生成改进的prompt，导致效率低下，并且忽略了prompt优化容易陷入局部最优。为了解决这个问题，我们提出了GRACE，一个集成了两种协同策略的框架：门控优化和自适应压缩，从而实现高效的prompt优化。门控优化策略引入了反馈调节门和更新拒绝门，它们优化更新信号以产生稳定有效的prompt改进。当优化停滞时，自适应压缩策略提炼prompt的核心概念，重构优化轨迹并开辟新的路径。通过策略性地引入信息损失，GRACE在性能和效率方面都实现了显著的提升。在包括BIG-Bench Hard（BBH）、特定领域和通用NLP任务在内的三个实际领域的11个任务中进行的大量实验表明，GRACE相对于最先进的方法，分别实现了4.7%、4.4%和2.7%的平均相对性能提升。进一步的分析表明，GRACE仅使用先前方法所需的25%的prompt生成预算就实现了这些收益，突出了其高优化效率和低计算开销。

🔬 方法详解

问题定义：论文旨在解决自动Prompt优化中效率低、易陷入局部最优的问题。现有方法难以稳定生成改进的Prompt，需要大量的计算资源，且容易停滞在次优解。

核心思路：论文的核心思路是通过门控优化（Gated Refinement）来稳定Prompt的更新过程，避免无效或有害的更新，并通过自适应压缩（Adaptive Compression）来跳出局部最优，探索新的优化方向。这种策略性地引入信息损失的方式，反而能够带来性能和效率的提升。

技术框架：GRACE框架包含两个主要模块：门控优化和自适应压缩。门控优化模块通过反馈调节门和更新拒绝门来控制Prompt的更新，前者调节更新信号的强度，后者决定是否接受更新。自适应压缩模块则在优化停滞时，对Prompt进行压缩，提取核心概念，并基于这些核心概念重新初始化优化过程。

关键创新：GRACE的关键创新在于其门控优化和自适应压缩的协同作用。门控优化通过精细控制更新过程，避免了无效的探索，提高了优化效率。自适应压缩则通过重构优化轨迹，打破了局部最优的限制，使得Prompt优化能够探索更广阔的解空间。与现有方法相比，GRACE更加注重优化过程的稳定性和探索性。

关键设计：门控优化模块中的反馈调节门和更新拒绝门的设计是关键。反馈调节门通常使用sigmoid函数来控制更新信号的强度，更新拒绝门则根据一定的阈值来决定是否接受更新。自适应压缩模块则可以使用诸如PCA或聚类等方法来提取Prompt的核心概念。具体的损失函数和网络结构取决于具体的任务和Prompt表示形式。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，GRACE在11个任务上显著优于现有方法，在BIG-Bench Hard（BBH）、特定领域和通用NLP任务上分别实现了4.7%、4.4%和2.7%的平均相对性能提升。更重要的是，GRACE仅使用现有方法所需的25%的Prompt生成预算就实现了这些收益，突显了其高优化效率和低计算开销。

🎯 应用场景

GRACE框架可应用于各种需要Prompt工程的大型语言模型应用场景，例如文本生成、问答系统、对话系统等。该方法能够显著提升Prompt优化的效率和性能，降低计算成本，并提高LLM在各种任务上的表现。未来，该研究可以扩展到多模态Prompt优化，以及更复杂的任务场景。

📄 摘要（原文）

Prompt engineering is crucial for leveraging the full potential of large language models (LLMs). While automatic prompt optimization offers a scalable alternative to costly manual design, generating effective prompts remains challenging. Existing methods often struggle to stably generate improved prompts, leading to low efficiency, and overlook that prompt optimization easily gets trapped in local optima. Addressing this, we propose GRACE, a framework that integrates two synergistic strategies: Gated Refinement and Adaptive Compression, achieving Efficient prompt optimization. The gated refinement strategy introduces a feedback regulation gate and an update rejection gate, which refine update signals to produce stable and effective prompt improvements. When optimization stagnates, the adaptive compression strategy distills the prompt's core concepts, restructuring the optimization trace and opening new paths. By strategically introducing information loss through refinement and compression, GRACE delivers substantial gains in performance and efficiency. In extensive experiments on 11 tasks across three practical domains, including BIG-Bench Hard (BBH), domain-specific, and general NLP tasks, GRACE achieves significant average relative performance improvements of 4.7%, 4.4% and 2.7% over state-of-the-art methods, respectively. Further analysis shows that GRACE achieves these gains using only 25% of the prompt generation budget required by prior methods, highlighting its high optimization efficiency and low computational overhead. Our code is available at https://github.com/Eric8932/GRACE.