Grow the Harness, Not the Context: From Strategy-Free Scaffolds to Reusable Specialist Agents
作者: Laizhen Li, Jiarui Li, Juanjuan Zhao, Kejiang Ye, Ye Li, Cheng-zhong Xu, Xitong Gao
分类: cs.AI, cs.SE
发布日期: 2026-09-22
备注: 16 pages, 6 figures
💡 一句话要点
提出Growing Harness以解决LLM代理控制决策重复问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 代理系统 控制决策 失败引导训练 可重用代码 任务反馈 推理成本 智能助手
📋 核心要点
- 现有的LLM代理在处理任务时，往往需要在每个任务上下文中重复进行相同的控制决策，导致效率低下。
- 本文提出Growing Harness，通过失败引导的训练方式，将重复控制转化为可重用的代码，减少LLM调用频率。
- 实验结果显示，Growing Harness在多个基准测试中取得了最高的成功率，并显著降低了推理成本。
📝 摘要（中文）
大型语言模型（LLM）代理通常处理相关任务的流，但标准的控制框架要求模型在每个任务上下文中重复构建相同的控制决策。本文研究任务反馈是否可以将重复控制转化为可重用的可执行代码，同时将LLM调用保留用于任务特定的语义推理。我们提出了Growing Harness，这是一种失败引导的训练范式，从一个不包含任务解决控制器的无策略支架中学习代理控制框架。通过功能级执行轨迹定位每个失败，优化器联合修复失败窗口，成功优先的保留门回滚有害的修复序列。实验结果表明，Growing Harness在多个基准模型设置中表现优异，显著减少了LLM调用和推理成本。
🔬 方法详解
问题定义：本文旨在解决大型语言模型（LLM）代理在处理相关任务时，重复构建控制决策的低效问题。现有方法在每个任务上下文中都需要进行相同的决策，导致资源浪费和效率降低。
核心思路：论文提出的Growing Harness通过失败引导的训练方式，学习代理的控制框架，而不是依赖于固定的任务解决控制器。这样设计的目的是将重复的控制逻辑转化为可重用的代码，从而减少对LLM的调用。
技术框架：整体架构包括三个主要模块：功能级执行轨迹用于定位失败，优化器联合修复失败窗口，以及成功优先的保留门用于回滚有害的修复序列。这些模块协同工作，使得控制结构能够从任务反馈中逐步演化。
关键创新：最重要的技术创新在于将控制逻辑从模型上下文中移出，转而使用低成本的代码实现可重用的专门代理。这一方法显著提高了模型的效率和成功率。
关键设计：在设计中，使用了功能级执行轨迹来精确定位失败，优化器通过联合修复来处理多个失败，保留门则确保不会损害已有能力的修复序列。这些设计细节共同提升了最终的成功率。
🖼️ 关键图片
📊 实验亮点
实验结果表明，Growing Harness在六个基准模型设置中取得了五个最高的平均成功率，相较于Tool-Calling代理，LLM调用减少了76.0-91.8%，推理成本降低了74.4-98.6%。在WebArena-Verified上，其成功率保持在44.7-45.3%之间，而Tool-Calling在4B模型上仅为6.7%。
🎯 应用场景
该研究的潜在应用领域包括智能助手、自动化任务处理和复杂系统的控制等。通过提高LLM代理的效率和成功率，Growing Harness能够在资源受限的环境中实现更高效的任务执行，具有重要的实际价值和未来影响。
📄 摘要（原文）
Large language model (LLM) agents often handle streams of related tasks, yet standard harnesses repeatedly ask the model to reconstruct the same control decisions inside each task's context. We study whether task feedback can instead turn recurring control into reusable executable code, while reserving LLM calls for task-specific semantic reasoning. We introduce Growing Harness, a failure-guided training paradigm that learns the agent harness itself from a strategy-free scaffold that exposes fixed model and tool interfaces but encodes no task-solving controller. Function-level execution traces localize each failure to a bounded code surface, an optimizer repairs a window of failures jointly, and a success-first held-out gate rolls back repair sequences that harm prior capability. Accepted edits accumulate in one shared harness, allowing its control structure to emerge from task feedback. Across BrowseComp-Plus and WebArena-Verified with three deployment models from 4B to 120B parameters, Growing Harness achieves the highest mean success in five of six benchmark-model settings and trails the best mean by 0.7 pp. in the sixth. Relative to a Tool-Calling agent, it reduces LLM calls by 76.0-91.8% and deployed-agent inference cost by 74.4-98.6%. On WebArena-Verified, its success remains 44.7-45.3% across model scales, whereas Tool-Calling falls to 6.7% with the 4B model. Ablations show that trace-local edits, joint repair, and gate-based rollback each improve final success. These results show that persistent program growth can move recurring control out of model context and into low-cost code, yielding reusable specialist agents that remain effective with smaller deployment models.