Large Language Model for Multi-objective Evolutionary Optimization

📄 arXiv: 2310.12541v3 📥 PDF

作者: Fei Liu, Xi Lin, Zhenkun Wang, Shunyu Yao, Xialiang Tong, Mingxuan Yuan, Qingfu Zhang

分类: cs.NE, cs.AI, cs.CL, cs.ET

发布日期: 2023-10-19 (更新: 2024-03-26)

🔗 代码/项目: GITHUB

💡 一句话要点

提出基于大语言模型的多目标进化优化方法

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多目标优化 进化算法 大语言模型 算子设计 机器学习

📋 核心要点

  1. 现有的多目标进化算法依赖于手工设计的搜索算子，缺乏灵活性和泛化能力。
  2. 本文提出利用大语言模型（LLM）设计MOEA算子，采用零-shot方式进行操作，减少了手工设计的需求。
  3. 实验结果显示，所提方法在多个基准测试中表现出色，且算子在新问题上的泛化能力显著提升。

📝 摘要（中文）

多目标进化算法（MOEAs）是解决多目标优化问题（MOPs）的主要方法。尽管过去几十年提出了许多MOEAs，但其搜索算子通常需要依赖领域知识进行精心设计。近期有尝试用学习型算子替代手工设计的算子，但仍需大量努力进行模型设计和训练，且学习的算子在新问题上的泛化能力可能不足。为了解决这些挑战，本文提出了一种新方法，利用强大的大语言模型（LLM）设计MOEA算子。通过适当的提示工程，我们成功地让通用LLM作为分解型MOEA（MOEA/D）的黑箱搜索算子，以零-shot方式进行操作。此外，通过学习LLM的行为，我们进一步设计了一个具有随机性的显式白箱算子，并提出了新的分解型MOEA版本MOEA/D-LO。实验结果表明，该方法在不同测试基准上表现出竞争力，且在少量实例学习后，算子在未见问题上的泛化性能良好。

🔬 方法详解

问题定义：本文旨在解决多目标进化算法中手工设计算子带来的灵活性不足和泛化能力差的问题。现有方法通常依赖领域知识进行设计，难以适应新问题。

核心思路：论文的核心思路是利用大语言模型（LLM）作为黑箱搜索算子，通过适当的提示工程实现零-shot操作，减少对手工设计的依赖。同时，基于LLM的行为设计显式白箱算子，增强算子的随机性。

技术框架：整体架构包括两个主要模块：首先是利用LLM生成搜索算子，其次是基于LLM行为设计的白箱算子。整个流程从输入问题开始，通过LLM生成算子，再通过白箱算子进行优化。

关键创新：最重要的技术创新在于将大语言模型应用于多目标进化算法的算子设计中，突破了传统手工设计的限制，提供了更灵活的解决方案。

关键设计：在参数设置上，采用了适合LLM的提示工程，损失函数设计上关注算子的有效性和泛化能力，网络结构则基于现有的LLM架构进行调整，以适应多目标优化的需求。

📊 实验亮点

实验结果表明，所提MOEA/D-LO方法在多个基准测试中表现出色，能够与广泛使用的MOEAs相媲美。特别是在少量实例学习后，算子在未见问题上的泛化性能显著提升，展示了良好的适应性。

🎯 应用场景

该研究的潜在应用领域包括工程设计、资源分配、金融投资等多目标优化问题。通过利用大语言模型，能够在不同场景中快速适应并提供有效的优化方案，具有重要的实际价值和未来影响。

📄 摘要（原文）

Multiobjective evolutionary algorithms (MOEAs) are major methods for solving multiobjective optimization problems (MOPs). Many MOEAs have been proposed in the past decades, of which the search operators need a carefully handcrafted design with domain knowledge. Recently, some attempts have been made to replace the manually designed operators in MOEAs with learning-based operators (e.g., neural network models). However, much effort is still required for designing and training such models, and the learned operators might not generalize well on new problems. To tackle the above challenges, this work investigates a novel approach that leverages the powerful large language model (LLM) to design MOEA operators. With proper prompt engineering, we successfully let a general LLM serve as a black-box search operator for decomposition-based MOEA (MOEA/D) in a zero-shot manner. In addition, by learning from the LLM behavior, we further design an explicit white-box operator with randomness and propose a new version of decomposition-based MOEA, termed MOEA/D-LO. Experimental studies on different test benchmarks show that our proposed method can achieve competitive performance with widely used MOEAs. It is also promising to see the operator only learned from a few instances can have robust generalization performance on unseen problems with quite different patterns and settings. The results reveal the potential benefits of using pre-trained LLMs in the design of MOEAs.To foster reproducibility and accessibility, the source code is https://github.com/FeiLiu36/LLM4MOEA.