Think Big, Search Small: Where Capacity Matters in Hierarchical Search Agents?
作者: Qinnan Cai, Yibo Zhao, Xiang Li
分类: cs.CL
发布日期: 2026-07-08
备注: 21pages
🔗 代码/项目: GITHUB
💡 一句话要点
提出层次化搜索代理以优化模型容量分配问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 层次化搜索 多代理架构 模型容量分配 问答系统 信息检索 轨迹蒸馏 性能提升
📋 核心要点
- 现有的多代理搜索系统在角色分配上使用相同规模的模型，未能有效利用模型容量。
- 本文提出将层次化搜索分解为委托、执行和答案生成三个角色，以优化模型容量的分配。
- 实验结果表明，角色分解方法在多个基准上显著提高了性能，尤其是委托角色的容量提升效果明显。
📝 摘要（中文）
随着大型语言模型基础的搜索代理越来越多地采用多代理架构，现有系统在角色分配上仍然使用相同规模的单一模型。本文将层次化搜索分解为三个角色：任务分解的委托角色、负责检索和证据提取的执行角色，以及作为控制变量的答案生成角色。通过在五个多跳问答基准上进行容量控制实验，发现角色分解显著优于单代理基线，且委托角色的容量提升对性能影响更大。最后，训练的1.7B参数执行器在准确性上与前沿子代理相当，但消耗的子代理令牌减少了37%。
🔬 方法详解
问题定义：本文旨在解决现有多代理搜索系统中模型容量分配不均的问题。现有方法使用相同规模的模型来承担不同角色，未能有效利用各角色的特定需求。
核心思路：通过将层次化搜索分解为委托、执行和答案生成三个角色，本文提出在委托角色上集中模型容量，而在执行角色上进行缩减，以提高整体性能。
技术框架：整体架构包括三个主要模块：委托角色负责将复杂问题分解为子查询，执行角色负责信息检索和证据提取，而答案生成角色则作为控制变量保持不变。
关键创新：本文的主要创新在于角色的分解与容量的重新分配，尤其是识别出委托角色在性能提升中的关键作用，这与现有方法的单一模型设计形成鲜明对比。
关键设计：在实验中，采用了不同规模的模型进行角色分配，并通过质量过滤的轨迹蒸馏训练了1.7B参数的执行器，以减少子代理令牌的消耗，同时保持准确性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，角色分解方法在六个模型规模上将准确匹配度（EM）从4.5提升至8.6，委托角色的容量提升对EM的影响约为11分，而执行角色的提升仅为2.6分。此外，1.7B参数的执行器在准确性上与前沿子代理相当，但消耗的子代理令牌减少了37%。
🎯 应用场景
该研究的潜在应用领域包括智能问答系统、信息检索和多代理协作任务。通过优化模型容量的分配，能够提高系统的响应速度和准确性，进而提升用户体验。未来，该方法可能对其他需要层次化决策的AI系统产生积极影响。
📄 摘要（原文）
Large language model based search agents increasingly adopt multi-agent architectures in which a main agent decomposes a complex question into sub-queries and dispatches them to parallel sub-agents. However, existing systems instantiate all roles from a single model of identical scale, leaving open how model capacity should be distributed across roles. We factorize hierarchical search into three roles: a delegation role responsible for task decomposition, an execution role responsible for retrieval and evidence extraction, and an answer generation role held fixed as a confound control. We then conduct controlled capacity sweeps along the delegation and execution axes on five multi-hop QA benchmarks. The experiments yield three findings. First, role factorization consistently outperforms a single-agent baseline, improving exact match from 4.5 to 8.6 points across six model scales. Second, capacity sensitivity is asymmetric: scaling the delegation backbone improves EM by ~11 points, whereas scaling the execution sub-agent moves EM by only ~2.6 points, identifying decomposition as the capability bottleneck. Third, a 1.7B-parameter executor trained via quality-filtered trajectory distillation matches a frontier sub-agent in accuracy while consuming 37% fewer sub-agent tokens, advancing the Pareto frontier. These results suggest a concrete recipe for building hierarchical search agents: concentrate capacity at delegation and downsize execution without sacrificing accuracy. Our code is available at https://github.com/QinnanCai0115/role-factorized-search.