OptiCom : A Unified Framework for State-Conditioned Composition in LLM-Driven Optimization

📄 arXiv: 2609.37221v1 📥 PDF

作者: Chenxing Wei, Sichen Liu, Lizhao Liu, Ningyuan Sun, Chen Bingzhou, Ying He, Bo Jiang, Fei Yu, Yao Shu

分类: cs.AI

发布日期: 2026-09-29

备注: 43 pages, 11 figures

💡 一句话要点

提出OptiCom框架以解决LLM驱动优化中的状态依赖问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 优化框架 动态组合 决策优化 状态依赖性 科学计算 资源调度

📋 核心要点

  1. 现有LLM驱动的优化方法在动态协调多样化搜索机制时面临重大挑战，尤其是在候选质量和资源预算变化时。
  2. 本文提出OptiCom框架，通过分析决策机会与选择损失，动态组合优化机制，提升优化效果。
  3. 在32个基准组的评估中，OptiCom的平均Max-score排名为1.72，显示出其在多种配置下的优越性。

📝 摘要（中文）

大型语言模型（LLMs）在解决复杂科学和实际问题时，面临动态协调多样化搜索机制的挑战。现有方法在候选质量、失败模式和资源预算变化时效果不佳。为此，本文分析了个体决策如何影响最终结果，并提出了OptiCom框架，统一表示LLM驱动的优化器。该框架在共享配置空间内动态组合机制，通过快速的优化控制器和慢速的策略适配器进行决策优化。实验结果表明，OptiCom在32个基准组中表现优异，平均Max-score排名为1.72，在23个组中获得最高分，展示了其广泛的适用性和高扩展性。

🔬 方法详解

问题定义：本文旨在解决LLM驱动优化中动态协调多样化搜索机制的挑战，现有方法在状态依赖性方面表现不足，难以适应变化的候选质量和资源预算。

核心思路：通过分析个体决策对最终结果的影响，提出OptiCom框架，利用机会-损失理论基础，优化决策过程，提升整体优化效果。

技术框架：OptiCom框架在共享配置空间C=(A,Q,O,E,M,S)中运作，其中A为工件，Q为查询，O为操作，E为评估，M为记忆，S为策略。框架包括快速的优化控制器和慢速的策略适配器，前者动态组合机制，后者基于反馈调整长期选择偏好。

关键创新：OptiCom的核心创新在于其统一的框架设计，能够在共享配置空间内灵活组合多种优化机制，显著提升了优化的适应性和效率。

关键设计：框架中的关键设计包括结构化的行动包、基于反馈的策略适配和操作权重调整，确保了在不同状态下的优化决策能够快速响应。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在32个基准组的评估中，OptiCom框架的平均Max-score排名为1.72，显示出其在14种评估配置中的优越性，并在23个组中获得最高分，证明了其在优化任务中的卓越性能。

🎯 应用场景

OptiCom框架具有广泛的应用潜力，适用于科学研究、工程优化、资源调度等领域。其动态组合机制能够有效应对复杂问题的变化，提升决策效率，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large language models (LLMs) are increasingly deployed to solve complex scientific and practical problems via iterative optimization. However, dynamically coordinating diverse search mechanisms as candidate quality, failure modes, and resource budgets evolve remains a critical open challenge. Targeted empirical diagnostics reveal that mechanism effectiveness is highly state-dependent. Motivated by this, we analyze how individual decisions drive final outcomes, decomposing the expected terminal improvement under a shared budget into cumulative decision opportunities minus cumulative selection losses. Guided by this opportunity-loss theoretical foundation, we propose OptiCom, a unified framework that represents LLM-driven optimizers within a shared configuration space: C=(A,Q,O,E,M,S), corresponding to artifact, query, operator, evaluation, memory, and strategy. Operating within this space, a fast LLM-based Optimization Controller dynamically composes immediate mechanisms through structured Action Packages, while a slower Strategy Adapter refines long-term selection preferences, operator weights, and templates based on accumulated trajectory feedback. Comprehensive evaluations across 32 benchmark groups demonstrate the superiority of framework: OptiCom achieves an average Max-score rank of 1.72 among 14 evaluated configurations, securing the top score in 23 groups. Ultimately, these results highlight the broad applicability and high extensibility of OptiCom as a general-purpose paradigm for robust LLM test-time scaling.