AgenticEvolve: Evolutionary Program Search with Persistent Language Model Agents that Design and Run Experiments

📄 arXiv: 2610.31326v1 📥 PDF

作者: Ze-Yu Peng, Qing-Yu Lan, Zhan-He Wang, Jun Zhang, Yun-Song Piao

分类: cs.NE, cs.AI, cs.LG

发布日期: 2026-10-22

备注: 23 pages, including supplementary material. The source code is available at https://github.com/pengzy-cosmo/AgenticEvolve

💡 一句话要点

提出AgenticEvolve以提升进化程序搜索效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 进化程序搜索 语言模型 实验设计 程序优化 自动代码生成

📋 核心要点

  1. 现有的进化程序搜索方法通常依赖于一次性生成候选程序，缺乏对候选程序的深入分析与实验设计。
  2. AgenticEvolve通过引入持久的语言模型代理，在评估之间设计并运行实验，从而提升候选程序的质量。
  3. 实验结果表明，AgenticEvolve在多个任务中显著优于对比方法，尤其是在评估次数和程序质量上表现突出。

📝 摘要（中文）

本论文提出了AgenticEvolve，一个基于持久大型语言模型代理的进化程序搜索框架。该框架在评估之间，代理设计并运行候选程序的实验。通过与无分析的对比，AgenticEvolve在两个启发式设计任务中表现优于无分析和OpenEvolve，且在隐藏和未见实例上均取得更好的程序质量。它在达到基线最终质量的同时，评估次数显著减少，成本相当。在十二个方程发现问题中，AgenticEvolve恢复了更多方程的真实结构，超越了无分析和现有语言模型及遗传编程基线。

🔬 方法详解

问题定义：本论文旨在解决现有进化程序搜索方法中缺乏对候选程序深入分析的问题。现有方法通常仅依赖一次性生成候选程序，导致评估效率低下和质量不稳定。

核心思路：AgenticEvolve的核心思路是利用持久的语言模型代理，在评估之间进行实验设计和执行，从而优化候选程序的生成过程。通过这种方式，代理能够在每次评估中不断改进程序质量。

技术框架：AgenticEvolve的整体架构包括多个模块：首先是候选程序生成模块，由语言模型负责；其次是实验设计模块，负责设计和运行实验；最后是评估模块，评估程序的性能和质量。

关键创新：本研究的关键创新在于引入了持久的语言模型代理，使得进化程序搜索不仅限于生成候选程序，而是通过实验反馈不断优化程序。这一设计与传统方法的本质区别在于动态实验与反馈机制。

关键设计：在参数设置上，AgenticEvolve采用了多种大型语言模型，并在实验设计中引入了多样化的实验策略，以确保候选程序的多样性和创新性。损失函数和评估标准则依据具体任务进行调整，以确保模型的适应性和有效性。

📊 实验亮点

在实验中，AgenticEvolve在两个启发式设计任务上表现优于无分析和OpenEvolve，且在隐藏和未见实例上均取得更好的程序质量。它在达到基线最终质量的同时，评估次数显著减少，成本相当。此外，在十二个方程发现问题中，AgenticEvolve恢复了更多方程的真实结构，超越了无分析和现有语言模型及遗传编程基线。

🎯 应用场景

AgenticEvolve的研究成果在多个领域具有潜在应用价值，包括自动代码生成、程序优化和智能系统设计等。通过提升进化程序搜索的效率，该方法能够加速软件开发过程，并为复杂系统的设计提供新的思路。未来，随着技术的进一步发展，AgenticEvolve可能在更多实际应用中发挥重要作用。

📄 摘要（原文）

Evolutionary program search with large language models keeps the structure of an evolutionary algorithm and uses the model as its variation operator. Typically, the model generates each candidate program in a single request from parent programs and their scores. We present AgenticEvolve, an evolutionary program search framework in which each island is run by a persistent large language model agent. Between evaluations, the agent designs and runs experiments on the candidate program. To measure the contribution of experimentation, we compare AgenticEvolve with No-analysis, an otherwise identical configuration with experiments disabled. On two heuristic design tasks with three large language models, AgenticEvolve produces better programs than No-analysis and OpenEvolve on both hidden and unseen instances. It reaches the baselines' final quality with far fewer evaluations and comparable cost. On twelve equation discovery problems, it recovers the ground-truth structure of more equations than No-analysis and existing language-model and genetic programming baselines.