Co-Saving: Resource Aware Multi-Agent Collaboration for Software Development

📄 arXiv: 2505.21898v1 📥 PDF

作者: Rennai Qiu, Chen Qian, Ran Li, Yufan Dang, Weize Chen, Cheng Yang, Yingli Zhang, Ye Tian, Xuantang Xiong, Lei Han, Zhiyuan Liu, Maosong Sun

分类: cs.CL, cs.AI, cs.MA, cs.SE

发布日期: 2025-05-28

备注: Work in Progress


💡 一句话要点

提出Co-Saving,一种资源感知的多智能体协作软件开发框架,提升效率和代码质量。

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 多智能体系统 资源感知 软件开发 协作式智能体 经验学习 指令转换 效率优化

📋 核心要点

  1. 现有MAS在软件开发等复杂任务中资源消耗大,效率低,缺乏对token使用和执行时间的优化。
  2. Co-Saving通过学习历史成功经验,构建“shortcuts”,绕过不必要的智能体推理,加速问题解决。
  3. 实验表明,Co-Saving在软件开发任务中显著降低了token使用量,并提高了代码质量,优于现有方法。

📝 摘要(中文)

大型语言模型(LLMs)和自主智能体的最新进展在各个领域展现了卓越的能力。然而,独立智能体在处理需要广泛交互和大量计算资源的复杂任务时,经常会遇到局限性。多智能体系统(MAS)通过任务分解、迭代通信和角色专业化等协作机制,缓解了这些限制,但它们通常缺乏资源意识,由于高token消耗和过长的执行时间而导致效率低下。为了解决这些限制,我们提出了一种资源感知的多智能体系统——Co-Saving(意味着多个智能体协同参与资源节约活动),它利用经验知识来提高运营效率和解决方案质量。我们的关键创新是引入了“shortcuts”——从历史上成功的轨迹中学习到的指令转换——这允许绕过冗余的推理智能体,并加速集体问题解决过程。软件开发任务的实验表明,该方法优于现有方法。具体而言,与最先进的MAS ChatDev相比,我们的方法平均减少了50.85%的token使用量,并将整体代码质量提高了10.06%。

🔬 方法详解

问题定义:现有的多智能体系统在软件开发等复杂任务中,虽然能够通过协作解决问题,但往往忽略了资源消耗,导致token使用量过高,执行时间过长,效率低下。尤其是在需要大量迭代和通信的场景下,这种问题更加突出。现有方法缺乏对历史经验的利用,无法避免重复推理和冗余步骤。

核心思路:Co-Saving的核心思路是利用历史成功的经验,学习智能体之间的“shortcuts”。这些shortcuts代表了从一个智能体到另一个智能体的指令转换,可以直接跳过中间的推理步骤,从而减少token使用量和执行时间。通过这种方式,Co-Saving能够在保证解决方案质量的前提下,显著提高多智能体系统的效率。

技术框架:Co-Saving的技术框架主要包含以下几个模块:1)经验知识库:存储历史成功的任务轨迹,包括智能体之间的交互和指令转换。2)Shortcut学习模块:从经验知识库中学习shortcuts,并评估其有效性。3)资源感知的任务调度器:根据任务需求和资源限制,选择合适的智能体和shortcuts进行任务分配和调度。4)多智能体协作执行模块:智能体根据任务调度器的指令,利用shortcuts进行协作,完成任务。

关键创新:Co-Saving最重要的技术创新点在于引入了“shortcuts”的概念,并将其应用于多智能体协作中。与现有方法相比,Co-Saving能够利用历史经验,避免重复推理和冗余步骤,从而显著提高效率。此外,Co-Saving还具有资源感知的任务调度器,能够根据任务需求和资源限制,动态调整智能体的协作方式。

关键设计:Shortcut学习模块的关键设计包括:1)轨迹表示:将历史任务轨迹表示为智能体之间的指令序列。2)Shortcut提取:从指令序列中提取频繁出现的指令转换模式,作为候选shortcuts。3)Shortcut评估:评估候选shortcuts的有效性,例如通过模拟执行或专家评估。资源感知的任务调度器的关键设计包括:1)资源模型:建立智能体的资源模型,包括token使用量、执行时间等。2)任务分解:将复杂任务分解为多个子任务,并评估每个子任务的资源需求。3)任务分配:根据资源模型和任务需求,将子任务分配给合适的智能体和shortcuts。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,Co-Saving在软件开发任务中显著优于现有方法。与最先进的MAS ChatDev相比,Co-Saving平均减少了50.85%的token使用量,并将整体代码质量提高了10.06%。这些结果表明,Co-Saving能够有效地提高多智能体系统的效率和质量。

🎯 应用场景

Co-Saving可应用于各种需要多智能体协作的复杂任务,例如软件开发、智能制造、金融分析等。通过提高效率和降低资源消耗,Co-Saving可以降低开发成本,缩短开发周期,并提高解决方案的质量。未来,Co-Saving还可以与其他技术相结合,例如强化学习、知识图谱等,进一步提高其性能和泛化能力。

📄 摘要(原文)

Recent advancements in Large Language Models (LLMs) and autonomous agents have demonstrated remarkable capabilities across various domains. However, standalone agents frequently encounter limitations when handling complex tasks that demand extensive interactions and substantial computational resources. Although Multi-Agent Systems (MAS) alleviate some of these limitations through collaborative mechanisms like task decomposition, iterative communication, and role specialization, they typically remain resource-unaware, incurring significant inefficiencies due to high token consumption and excessive execution time. To address these limitations, we propose a resource-aware multi-agent system -- Co-Saving (meaning that multiple agents collaboratively engage in resource-saving activities), which leverages experiential knowledge to enhance operational efficiency and solution quality. Our key innovation is the introduction of "shortcuts" -- instructional transitions learned from historically successful trajectories -- which allows to bypass redundant reasoning agents and expedite the collective problem-solving process. Experiments for software development tasks demonstrate significant advantages over existing methods. Specifically, compared to the state-of-the-art MAS ChatDev, our method achieves an average reduction of 50.85% in token usage, and improves the overall code quality by 10.06%.