EvoDuet: Bilevel Co-Evolution of Web Searching and Task Solving for Scientific Discovery

📄 arXiv: 2609.40340v1 📥 PDF

作者: Young-Jun Lee, Jinheon Baek, Soyeong Jeong, Minki Kang, Seungyeon Jwa, Jonghyun Choi, Seungho Han, Dongyeop Kang

分类: cs.CL

发布日期: 2026-09-30

备注: Project page: https://open-galapagos.github.io/evoduet_project_page/


💡 一句话要点

提出EvoDuet以解决科学发现中的知识缺口问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 进化搜索 知识填补 大型语言模型 双层优化 科学发现 信息检索 智能系统

📋 核心要点

  1. 现有方法在进化搜索中面临知识缺口问题,导致模型无法有效利用外部信息。
  2. EvoDuet通过双层优化共同进化解决方案和搜索查询,动态调整检索策略以填补知识空白。
  3. 实验结果显示,EvoDuet在多个任务中显著提高了发现增益,超越了先前的最佳成绩。

📝 摘要(中文)

进化搜索与大型语言模型(LLMs)结合时,若需外部知识而模型缺乏,进展可能停滞。虽然提供相关文档有助于解决问题,但简单添加网页搜索工具可能导致重复返回相同页面。为此,本文提出EvoDuet,一种双层优化方法,能够在固定模型参数下共同进化解决方案和搜索查询。在每次迭代中,检索门允许LLM评估其知识缺口,并选择检索新文档、重用存储文档或不使用文档。内层循环精炼查询并根据预测的解决方案得分对文档进行排名;外层循环则从这些文档并行生成候选项,并记录评估结果以供后续搜索。EvoDuet在21个优化任务中显著提升了OpenEvolve的发现增益。

🔬 方法详解

问题定义:本文旨在解决在进化搜索中,模型因缺乏外部知识而导致的进展停滞问题。现有方法在引入网页搜索时,往往返回重复的结果,无法有效利用新信息。

核心思路:EvoDuet的核心思想是通过双层优化机制,动态调整搜索查询和解决方案的生成。内层循环专注于优化查询,外层循环则生成候选解决方案,从而实现知识的有效利用。

技术框架:EvoDuet的整体架构包括两个主要模块:内层循环用于查询的精炼和文档的排名,外层循环则并行生成候选解决方案并记录评估结果。检索门的设计使得模型能够根据知识缺口选择是否检索新文档。

关键创新:EvoDuet的主要创新在于其双层优化机制,允许模型在固定参数下灵活调整搜索策略,与传统方法相比,能够更有效地填补知识空白。

关键设计:在参数设置上,EvoDuet使用了检索门来评估知识缺口,并通过内外层循环的协同工作来优化查询和解决方案的生成。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

EvoDuet在21个优化任务中显著提升了OpenEvolve的发现增益,使用GPT-5.6-Luna时从74.1%提升至78.0%,使用Gemini-3.8-Flash时从61.3%提升至82.3%。此外,EvoDuet在多个任务中超越了先前的最佳成绩,显示出其强大的适应性和有效性。

🎯 应用场景

EvoDuet的研究成果在科学发现、信息检索和智能问答等领域具有广泛的应用潜力。通过有效填补知识缺口,该方法能够提升模型在复杂任务中的表现,推动智能系统的进一步发展。

📄 摘要(原文)

Evolutionary search with large language models (LLMs) can stall when progress requires external knowledge the model lacks. Supplying relevant documents helps, but simply adding web search tool can keep returning the same pages as solutions change. We introduce EvoDuet, a bi-level optimization method that co-evolves solutions and search queries with fixed model parameters. At each iteration, a retrieval gate lets the LLM assess its knowledge gap and choose to retrieve new documents, reuse stored ones, or proceed without them. An inner loop refines queries and ranks documents by the solution scores they are predicted to yield; an outer loop generates candidates in parallel from these documents and records the evaluated outcomes for later searches. Across 21 optimization tasks with one candidate per iteration, EvoDuet raises OpenEvolve's normalized discovery gain from 74.1% to 78.0% with GPT-5.6-Luna and from 61.3% to 82.3% with Gemini-3.8-Flash, whereas Qwen3.5-9B does not benefit. Our best runs surpass the previously reported best scores on eight tasks, including Swap Reduction on Q20 and Rosetta, and match them on three more. EvoDuet also improves with other scaffolds (e.g., Top-K, EvoX) on Sums/Diffs and Denoising, demonstrating its applicability across evolutionary search scaffolds.