Difficulty-Aware Agentic Orchestration for Query-Specific Multi-Agent Workflows

📄 arXiv: 2509.11079v4 📥 PDF

作者: Jinwei Su, Qizhen Lan, Yinghui Xia, Lifan Sun, Weiyou Tian, Tianyu Shi, Xinyuan Song, Lewei He

分类: cs.AI

发布日期: 2025-09-14 (更新: 2025-12-08)

💡 一句话要点

提出难度感知Agent编排框架，为查询定制高效多Agent工作流

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多Agent系统 大型语言模型 难度感知 动态工作流 变分自编码器 LLM路由 自适应推理

📋 核心要点

  1. 现有Agent系统工作流静态或任务级，无法兼顾简单查询的效率和复杂查询的性能。
  2. DAAO通过VAE估计查询难度，动态生成查询特定的多Agent工作流，实现自适应推理。
  3. 实验表明，DAAO在多个基准测试中，准确性和推理效率均优于现有系统。

📝 摘要（中文）

基于大型语言模型（LLM）的Agent系统在各种任务中展现出强大的能力。然而，现有的多Agent框架通常依赖于静态或任务级的工作流程，这导致简单查询被过度处理，而复杂查询则表现不佳，同时也忽略了异构LLM之间的效率-性能权衡。为了解决这些局限性，我们提出了难度感知Agent编排（DAAO），它可以根据预测的查询难度动态生成查询特定的多Agent工作流程。DAAO包含三个相互依赖的模块：用于难度估计的变分自编码器（VAE）、模块化算子分配器以及成本和性能感知的LLM路由。一种自调整策略根据工作流程的成功情况更新难度估计，从而为简单查询启用更简单的工作流程，为更难的查询启用更复杂的策略。在六个基准测试上的实验表明，DAAO在准确性和推理效率方面均优于先前的多Agent系统，验证了其对自适应、难度感知推理的有效性。

🔬 方法详解

问题定义：现有基于LLM的Agent系统，其多Agent工作流通常是静态的，或者仅在任务级别进行调整。这种方式无法根据查询的实际难度进行优化，导致简单查询被过度处理，浪费计算资源；而复杂查询则由于流程不够精细而表现不佳。此外，现有方法也忽略了不同LLM之间的性能差异和成本差异，无法实现最佳的效率-性能权衡。

核心思路：DAAO的核心思路是根据查询的难度，动态地生成定制化的多Agent工作流。对于简单的查询，采用简单的工作流以提高效率；对于复杂的查询，采用更复杂的工作流以保证性能。通过难度估计模块，DAAO能够预测查询的难度，并据此选择合适的Agent组合和工作流程。同时，DAAO还考虑了不同LLM的成本和性能，选择最优的LLM进行推理。

技术框架：DAAO包含三个主要模块：1) 难度估计模块：使用变分自编码器（VAE）来估计查询的难度。VAE将查询编码成潜在向量，并根据潜在向量的分布来估计难度。2) 模块化算子分配器：根据查询难度，选择合适的Agent组合和工作流程。该模块维护一个Agent池，并根据难度选择合适的Agent来执行任务。3) 成本和性能感知的LLM路由：根据不同LLM的成本和性能，选择最优的LLM进行推理。该模块维护一个LLM池，并根据成本和性能选择最优的LLM来执行任务。此外，DAAO还包含一个自调整策略，根据工作流程的成功情况更新难度估计，从而实现自适应学习。

关键创新：DAAO最重要的技术创新点在于难度感知的动态工作流生成。与现有方法相比，DAAO能够根据查询的实际难度，动态地生成定制化的多Agent工作流，从而实现更好的效率-性能权衡。此外，DAAO还考虑了不同LLM的成本和性能，选择最优的LLM进行推理，进一步提高了系统的效率。

关键设计：难度估计模块使用VAE进行难度预测，VAE的损失函数包括重构损失和KL散度损失。模块化算子分配器使用强化学习来学习最优的Agent组合和工作流程。成本和性能感知的LLM路由使用多臂老虎机算法来选择最优的LLM。自调整策略使用贝叶斯优化来更新难度估计。

📊 实验亮点

实验结果表明，DAAO在六个基准测试中均优于现有的多Agent系统。例如，在某些基准测试中，DAAO的准确率提高了10%以上，同时推理效率提高了20%以上。这些结果验证了DAAO在自适应、难度感知推理方面的有效性。

🎯 应用场景

DAAO可应用于各种需要多Agent协作的场景，例如智能客服、自动问答、知识图谱推理等。通过动态调整工作流程，DAAO能够提高系统的效率和准确性，降低计算成本。未来，DAAO可以进一步扩展到更复杂的任务，例如自动驾驶、机器人控制等，为人工智能应用带来更广阔的前景。

📄 摘要（原文）

Large Language Model (LLM)-based agentic systems have shown strong capabilities across various tasks. However, existing multi-agent frameworks often rely on static or task-level workflows, which either over-process simple queries or underperform on complex ones, while also neglecting the efficiency-performance trade-offs across heterogeneous LLMs. To address these limitations, we propose Difficulty-Aware Agentic Orchestration (DAAO), which can dynamically generate query-specific multi-agent workflows guided by predicted query difficulty. DAAO comprises three interdependent modules: a variational autoencoder (VAE) for difficulty estimation, a modular operator allocator, and a cost- and performance-aware LLM router. A self-adjusting policy updates difficulty estimates based on workflow success, enabling simpler workflows for easy queries and more complex strategies for harder ones. Experiments on six benchmarks demonstrate that DAAO surpasses prior multi-agent systems in both accuracy and inference efficiency, validating its effectiveness for adaptive, difficulty-aware reasoning.