It Takes Workflows to Evolve Better Workflows

📄 arXiv: 2610.01026v1 📥 PDF

作者: Xuehang Guo, Haoyu Wang, Haifeng Chen, Yangyi Chen, Zhenhailong Wang, Qingyun Wang

分类: cs.CL, cs.AI

发布日期: 2026-10-01

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出FloWright以优化多代理工作流的生成与执行

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多代理系统 工作流优化 层次奖励机制 数据集增强 机器学习

📋 核心要点

  1. 现有方法仅优化工作流生成器，未考虑其他代理的影响，导致训练效果受限。
  2. 提出FloWright，通过分层奖励机制使代理能够自我进化和共同进化，提升工作流生成与执行的效果。
  3. 实验结果显示，使用FloWright的小型模型在多个任务上性能提升最高可达7.41%，共同进化的效果更佳。

📝 摘要（中文）

在处理复杂的现实任务时，单一的大型语言模型（LLM）往往无法胜任，因此需要多代理工作流来协调多个专门代理共同完成任务。现有方法仅优化工作流生成器，而未考虑其他代理的影响，导致训练效果受限。本文提出FloWright，通过引入分层的结构感知奖励机制，使得代理能够自我进化和共同进化，且无需额外模型、标签或执行。同时，提出DataWright方法，将现有数据集转化为更具挑战性的工作流级任务。实验结果表明，使用FloWright训练的小型开放模型在多个任务上性能提升最高可达7.41%。

🔬 方法详解

问题定义：本文旨在解决现有多代理工作流优化中，工作流生成器与执行代理之间的耦合问题。现有方法未能有效利用所有代理的反馈，导致训练效果不理想。

核心思路：提出FloWright，通过引入分层结构感知奖励机制，使得代理能够在没有额外模型或标签的情况下自我进化和共同进化，从而优化工作流的生成与执行。

技术框架：整体架构包括工作流生成器和多个执行代理，FloWright通过奖励机制引导代理的学习过程。DataWright则负责将现有数据集转化为更具挑战性的工作流任务。

关键创新：最重要的创新在于引入了分层奖励机制，使得不同角色的代理能够独立和协同进化，突破了传统方法的局限性。

关键设计：在奖励机制中，设计了结构感知的奖励函数，能够根据工作流的执行结果动态调整代理的学习方向，确保训练过程的有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，使用FloWright训练的小型开放模型在文档、幻灯片、代码等多种任务上性能提升最高可达7.41%。特别是共同进化的代理相比单一优化的效果提升更为显著，达到了5.03%。

🎯 应用场景

该研究的潜在应用领域包括文档处理、数据分析、金融决策等复杂任务场景。通过优化多代理工作流，能够显著提升任务处理的效率和准确性，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Tackling complex real-world tasks can exceed the capabilities of a single large language model (LLM), motivating the use of multi-agent workflows that coordinate specialized agents to work together on these tasks. Recent methods train LLMs to construct better workflows from execution outcomes, but they optimize only the workflow generator, while the other agents that build or execute each workflow remain fixed even though every outcome depends on all of them. However, extending training beyond the generator is challenging: the agents are coupled, and a workflow's outcome is a single sparse score that cannot tell which agent causes a failure. We propose FloWright, which leverages the workflow as a harness to optimize workflows. By introducing a hierarchical, structure-aware reward paradigm, FloWright enables one role to self-evolve and two or more roles to co-evolve, with no additional models, labels, or executions. Considering the limitation that workflows are commonly trained and evaluated on data that a single agent can already handle, we further propose DataWright, an adaptive data hardening approach that converts existing datasets into workflow-level tasks with increased difficulty. Across document, slide, chart, code, math, and finance tasks, small open models trained with FloWright achieve improved performance by up to $+7.41\%$, with co-evolving ($+5.03\%$) more roles gaining more than optimizing one of them alone ($+2.83\%$). Our project page: https://xhguo7.github.io/FloWright/.