Co-evolving Agent Architectures and Interpretable Reasoning for Automated Optimization

📄 arXiv: 2604.17708v1 📥 PDF

作者: Jiahao Huang, Peilan Xu, Xiaoya Nan, Wenjian Luo

分类: cs.AI

发布日期: 2026-04-20


💡 一句话要点

EvoOR-Agent:提出一种协同进化框架,用于自动优化运筹学问题。

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 自动优化 运筹学 大型语言模型 协同进化 Agent架构 推理轨迹 可解释性

📋 核心要点

  1. 现有方法依赖手工设计的推理流程,难以适应复杂运筹学任务中问题解释、建模、求解等环节的自适应协调。
  2. EvoOR-Agent将Agent工作流表示为AOE网络,通过协同进化架构和推理轨迹,实现自适应优化。
  3. 实验表明,EvoOR-Agent在异构运筹学基准测试中优于零样本LLM和固定流程Agent,并提升了可解释性。

📝 摘要(中文)

利用大型语言模型(LLMs)自动解决运筹学(OR)问题仍然受限于手工设计的推理-执行工作流程。复杂的OR任务需要在问题解释、数学建模、求解器选择、代码生成和迭代调试之间进行自适应协调。为了解决这个限制,我们提出了EvoOR-Agent,一个用于自动优化的协同进化框架。该框架将Agent工作流程表示为活动在边(AOE)风格的网络,使工作流程拓扑、执行依赖关系和替代推理路径明确化。在此表示基础上,该框架维护一个架构图,并通过图介导的路径条件重组、多粒度语义突变和精英种群更新来进化推理个体种群。知识库辅助的经验获取模块进一步将可重用的OR实践注入到初始化和语义变异中。在异构OR基准测试上的实验结果表明,所提出的框架始终优于零样本LLM、固定管道OR Agent和具有代表性的进化Agent框架。案例研究和消融分析进一步表明,显式架构进化和图支持的推理轨迹搜索有助于性能提升和结构可解释性。这些结果表明,将Agent架构和推理轨迹视为可进化对象,为自适应和可解释的自动优化提供了一条有效的途径。

🔬 方法详解

问题定义:现有方法在利用大型语言模型解决运筹学问题时,依赖于人工设计的推理-执行流程,缺乏灵活性和自适应性。复杂的运筹学任务需要根据具体问题动态调整问题解释、数学建模、求解器选择、代码生成和调试等步骤,而固定流程难以满足这种需求。此外,现有方法的可解释性较差,难以理解Agent的推理过程和决策依据。

核心思路:EvoOR-Agent的核心思路是将Agent的架构和推理轨迹视为可进化的对象,通过协同进化算法自动搜索最优的Agent架构和推理路径。这种方法允许Agent根据具体问题自适应地调整其工作流程,并提供更清晰的推理过程,从而提高性能和可解释性。

技术框架:EvoOR-Agent框架主要包含以下几个模块:1) Agent工作流程表示:将Agent工作流程表示为活动在边(AOE)风格的网络,明确工作流程的拓扑结构、执行依赖关系和替代推理路径。2) 架构图维护:维护一个架构图,用于表示Agent架构的演化过程。3) 协同进化:通过图介导的路径条件重组、多粒度语义突变和精英种群更新等操作,进化推理个体种群。4) 知识库辅助:利用知识库辅助经验获取,将可重用的运筹学实践注入到初始化和语义变异中。

关键创新:EvoOR-Agent的关键创新在于将Agent架构和推理轨迹视为可进化的对象,并通过协同进化算法自动搜索最优的Agent架构和推理路径。与现有方法相比,EvoOR-Agent能够根据具体问题自适应地调整其工作流程,并提供更清晰的推理过程,从而提高性能和可解释性。

关键设计:EvoOR-Agent的关键设计包括:1) AOE网络表示:使用AOE网络表示Agent工作流程,能够清晰地表达工作流程的拓扑结构和执行依赖关系。2) 图介导的路径条件重组:利用架构图指导推理个体的重组,能够有效地探索Agent架构空间。3) 多粒度语义突变:采用多粒度语义突变操作,能够有效地探索Agent推理路径空间。4) 知识库辅助:利用知识库辅助经验获取,能够将可重用的运筹学实践注入到Agent的进化过程中。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,EvoOR-Agent在异构运筹学基准测试中始终优于零样本LLM、固定管道OR Agent和具有代表性的进化Agent框架。案例研究和消融分析进一步表明,显式架构进化和图支持的推理轨迹搜索有助于性能提升和结构可解释性。具体性能数据未知,但论文强调了EvoOR-Agent在多个基准测试中取得了显著的性能提升。

🎯 应用场景

EvoOR-Agent可应用于各种需要自动优化的运筹学问题,例如供应链优化、资源调度、投资组合优化等。该研究的实际价值在于降低了运筹学问题求解的门槛,使得非专业人士也能利用AI技术解决复杂的优化问题。未来,该研究有望推动运筹学与人工智能的深度融合,实现更高效、更智能的决策支持系统。

📄 摘要(原文)

Automating operations research (OR) with large language models (LLMs) remains limited by hand-crafted reasoning--execution workflows. Complex OR tasks require adaptive coordination among problem interpretation, mathematical formulation, solver selection, code generation, and iterative debugging. To address this limitation, we propose EvoOR-Agent, a co-evolutionary framework for automated optimization. The framework represents agent workflows as activity-on-edge (AOE)-style networks, making workflow topology, execution dependencies, and alternative reasoning paths explicit. On this representation, the framework maintains an architecture graph and evolves a population of reasoning individuals through graph-mediated path-conditioned recombination, multi-granularity semantic mutation, and elitist population update. A knowledge-base-assisted experience-acquisition module further injects reusable OR practices into initialization and semantic variation. Empirical results on heterogeneous OR benchmarks show that the proposed framework consistently improves over zero-shot LLMs, fixed-pipeline OR agents, and representative evolutionary agent frameworks. Case studies and ablation analyses further indicate that explicit architecture evolution and graph-supported reasoning-trajectory search contribute to both performance improvement and structural interpretability. These results suggest that treating agent architectures and reasoning trajectories as evolvable objects provides an effective route toward adaptive and interpretable automated optimization.