HERA: Harness-Environment Co-Evolution for Reliable Agentic Abstention

📄 arXiv: 2610.06563v1 📥 PDF

作者: Han Luo, Bingbing Wen, Guang Yang, Zora Zhiruo Wang, Pan Lu, Lucy Lu Wang

分类: cs.AI

发布日期: 2026-10-05

备注: 23 pages. Project page: https://hera-bench.github.io/

💡 一句话要点

提出HERA框架以解决智能体自我放弃问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 智能体自我放弃 大型语言模型 共进化机制 任务生成 自动化系统

📋 核心要点

  1. 现有方法在处理智能体自我放弃问题时，缺乏对未见失败模式的有效泛化能力。
  2. HERA框架通过自动生成可行与不可行任务对，并利用共进化机制提升智能体的自我放弃能力。
  3. 实验结果显示，HERA显著提升了自我放弃准确率和可行任务完成率，且在19个其他LLM上表现优异。

📝 摘要（中文）

大型语言模型（LLM）智能体在复杂工具使用环境中表现出色，但常常无法识别任务不可行的情况。现有方法通常针对固定任务优化模型或智能体，导致在未见失败模式下的泛化能力有限。本文提出HERA框架，通过自动构建可验证的可行与不可行任务对，并利用共进化程序改进智能体的自我放弃能力。在评估任务中，HERA进化的智能体在自我放弃准确率上从61.7%提升至83.3%，可行任务完成率从68.3%提升至76.7%。

🔬 方法详解

问题定义：本文旨在解决大型语言模型智能体在复杂环境中识别不可行任务的能力不足，现有方法在面对未见失败模式时表现不佳。

核心思路：HERA框架通过共进化的方式，自动生成可行与不可行任务对，利用智能体在先前任务中的表现失败来驱动智能体的适应性改进。

技术框架：HERA包括两个主要模块：一是自动构建可验证的任务对，二是共进化程序，通过分析性能失败来生成新的执行环境和任务。

关键创新：HERA的创新在于其共进化机制，能够动态调整智能体的任务处理能力，与传统方法的静态优化形成鲜明对比。

关键设计：在任务对生成中，采用控制环境变异的方法，确保生成的不可行任务具有挑战性，同时在共进化过程中，利用历史失败数据指导智能体的适应性调整。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

HERA框架在评估任务中实现了自我放弃准确率从61.7%提升至83.3%，可行任务完成率从68.3%提升至76.7%。此外，HERA进化的智能体在19个其他大型语言模型上平均提升了15.3个百分点的自我放弃准确率，且无需针对特定模型进行优化。

🎯 应用场景

HERA框架在智能体自我放弃能力的提升上具有广泛的应用潜力，尤其在需要高可靠性的自动化系统中，如医疗、金融和自动驾驶等领域。通过提高智能体的决策能力，HERA能够降低错误决策的风险，提升系统的整体安全性和效率。

📄 摘要（原文）

Large language model (LLM) agents are increasingly capable of acting in complex tool-use environments, yet they often fail to recognize when tasks are infeasible and no valid solution exists. Recent work has formalized this reliability gap as the problem of agentic abstention, and existing approaches typically optimize a model or agent harness against a fixed set of tasks, leading to limited generalization to unseen failure modes. We introduce HERA, a framework for harness-environment co-evolution for agentic abstention. HERA consists of (i) a pipeline to automatically construct verifiable pairs of feasible and infeasible tasks by applying controlled environment mutations that transform solvable tasks into cases requiring abstention, and (ii) a co-evolution procedure in which performance failures on previous tasks are used to drive harness adaptation and generate new execution environments and tasks geared towards previous weaknesses. On held-out evaluation tasks, an evolved harness from HERA improves abstention accuracy from 61.7% to 83.3% while improving feasible-task completion from 68.3% to 76.7%, achieving the highest abstention and feasible-task completion among the compared methods. The resulting best harness transfers across 19 other LLMs, improving abstention accuracy by 15.3 percentage points on average without any model-specific optimization, and enabling smaller models to match the performance of more powerful models at an estimated 85% lower cost.