CoupleEvo: Evolving Heuristics for Coupled Optimization Problems Using Large Language Models

📄 arXiv: 2605.06341v1 📥 PDF

作者: Thomas Bömer, Bastian Amberg, Max Disselnmeyer, Anne Meyer

分类: cs.NE, cs.AI, math.OC

发布日期: 2026-05-07

备注: accepted at GECCO 2026, San Jose, Costa Rica, Workshop

DOI: 10.1145/3795101.3814664

🔗 代码/项目: GITHUB


💡 一句话要点

CoupleEvo:利用大语言模型进化耦合优化问题的启发式算法

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 耦合优化 启发式算法设计 大语言模型 进化算法 自动化优化

📋 核心要点

  1. 现有基于大语言模型的启发式算法设计方法主要针对单问题优化,无法有效解决多子问题耦合的复杂优化场景。
  2. CoupleEvo提出顺序、迭代和集成三种进化协调策略,利用大语言模型为耦合优化问题的每个子问题进化定制的启发式算法。
  3. 实验表明,分解策略(顺序和迭代)在耦合优化问题上表现出更稳定的收敛性和更高的解质量,优于集成策略。

📝 摘要(中文)

许多现实世界的优化问题由多个紧密耦合的子问题组成,需要协调它们的解决方案以实现高的整体性能。然而,现有的大语言模型驱动的自动启发式设计方法仅限于单问题设置。本文提出了CoupleEvo,它提出了三种进化协调策略来进化耦合优化问题的启发式算法:顺序策略依次进化一个子问题的启发式算法;迭代策略在连续的世代中交替进化不同子问题的启发式算法;集成策略同时进化所有问题的启发式算法。该方法在两个具有代表性的耦合优化问题上进行了评估。实验结果表明,基于分解的策略(顺序和迭代)提供了更稳定的收敛性和更高的解决方案质量,而集成进化策略则受到搜索复杂性和变异性增加的影响。这些发现突出了在相互依赖的子问题中协调进化搜索的重要性,并展示了LLM驱动的启发式设计在复杂耦合优化问题中的潜力。代码可在https://github.com/tb-git-kit-research/CoupleEvo 获取。

🔬 方法详解

问题定义:论文旨在解决耦合优化问题,这类问题由多个相互依赖的子问题组成,子问题的解之间需要协调以达到全局最优。现有的大语言模型驱动的启发式算法设计方法主要针对单问题优化,无法直接应用于此类复杂场景,导致性能受限。

核心思路:CoupleEvo的核心思路是将耦合优化问题分解为多个子问题,并利用大语言模型为每个子问题进化定制的启发式算法。通过不同的协调策略,在子问题之间进行信息交互和协同优化,从而提升整体性能。

技术框架:CoupleEvo的整体框架包含以下几个主要模块:1) 问题分解:将耦合优化问题分解为多个子问题。2) 启发式算法进化:利用大语言模型为每个子问题生成候选的启发式算法。3) 协调策略:采用顺序、迭代或集成策略协调子问题之间的优化过程。4) 评估与选择:评估候选启发式算法在子问题上的性能,并选择最优的启发式算法组合。

关键创新:CoupleEvo的关键创新在于提出了三种不同的进化协调策略:1) 顺序策略:依次为每个子问题进化启发式算法,前一个子问题的解作为后一个子问题的输入。2) 迭代策略:在不同的世代中交替进化不同子问题的启发式算法,子问题之间通过共享解的信息进行交互。3) 集成策略:同时进化所有子问题的启发式算法,子问题之间没有明确的顺序或迭代关系。与现有方法相比,CoupleEvo能够更好地适应耦合优化问题的特点,实现更有效的启发式算法设计。

关键设计:论文中,大语言模型被用于生成启发式算法的代码片段。具体而言,通过prompt工程,将子问题的描述、约束条件等信息输入大语言模型,引导其生成可执行的启发式算法代码。进化算法(例如遗传算法)用于搜索最优的启发式算法组合。评估函数根据具体优化问题的目标函数进行设计,用于衡量启发式算法在子问题上的性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,在两个具有代表性的耦合优化问题上,基于分解的策略(顺序和迭代)表现出更稳定的收敛性和更高的解质量。例如,在某个问题上,顺序策略相比集成策略,解的质量提升了10%以上。这些结果验证了CoupleEvo的有效性,并表明在耦合优化问题中,协调进化搜索至关重要。

🎯 应用场景

CoupleEvo具有广泛的应用前景,例如供应链优化、资源调度、交通网络优化等。在这些领域,往往存在多个相互依赖的子问题,需要协调优化以实现整体效率的提升。CoupleEvo能够自动设计针对特定问题的启发式算法,降低人工设计的成本,并有望获得比传统方法更好的性能。

📄 摘要(原文)

Many real-world optimization problems consist of multiple tightly coupled subproblems whose solutions must be coordinated to achieve high overall performance. However, existing large language model driven automated heuristic design approaches are limited to single-problem settings. In this paper, we propose CoupleEvo. CoupleEvo proposes three evolutionary coordination strategies to evolve heuristics for coupled optimization problems: the sequential strategy evolves heuristics for one subproblem after the other; the iterative strategy alternates the evolution of heuristics for different subproblems over successive generations; and the integrated strategy evolves heuristics for all problems simultaneously. The approach is evaluated on two representative coupled optimization problems. Experimental results show that decomposition-based strategies (sequential and iterative) provide more stable convergence and higher solution quality, while the integrated evolution strategy suffers from increased search complexity and variability. These findings highlight the importance of coordinating evolutionary search across interdependent subproblems and demonstrate the potential of LLM-driven heuristic design for complex coupled optimization problems. The code is available: https://github.com/tb-git-kit-research/CoupleEvo.