Democratizing Large-Scale Re-Optimization with LLM-Guided Model Patches

📄 arXiv: 2605.18692v1 📥 PDF

作者: Tinghan Ye, Arnaud Deza, Ved Mohan, El Mehdi Er Raqabi, Pascal Van Hentenryck

分类: cs.AI, math.OC

发布日期: 2026-05-18


💡 一句话要点

提出基于LLM引导模型补丁的大规模重优化框架,赋能非专家用户。

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 大规模优化 重优化 大型语言模型 决策支持系统 运筹学 模型补丁 自然语言交互

📋 核心要点

  1. 现实场景动态变化,传统优化模型难以快速适应新业务规则和约束,需要频繁依赖运筹学专家进行调整。
  2. 利用LLM作为OR专家,将用户自然语言指令转化为优化模型的结构化更新,并选择合适的重优化技术。
  3. 实验表明,该框架在供应链和考试排程等大规模问题上,能有效加速重优化,同时保证解的质量和可解释性。

📝 摘要(中文)

本文提出了一种agentic重优化框架,其中大型语言模型(LLM)充当运筹学(OR)专家,通过自然语言交互动态地支持最终用户。LLM将用户提示转换为底层优化模型的结构化更新,从优化工具箱中选择合适的重优化技术,并求解生成的实例以返回可实现的解决方案。该工具箱利用原始信息,包括历史解决方案、有效不等式、求解器配置和元启发式算法,以加速重优化,同时保持解决方案质量。所提出的框架能够交互式和持续地调整已部署的优化模型,减少对OR专家的依赖,并提高决策支持系统的可持续性。在两个互补的大规模真实案例研究中进行的广泛实验证明了该框架的有效性和可扩展性。第一个案例考虑在线供应链重优化,其中必须快速生成解决方案,同时保持与已部署计划的接近程度,而第二个案例侧重于离线大学考试安排,其中解决方案质量优先于运行时间。结果表明,基于工具箱的架构通过基于原始信息和求解器感知的重优化技术显著提高了计算效率,而结构化的基于补丁的更新提高了模型修改的可解释性和可追溯性。

🔬 方法详解

问题定义:现实世界中的优化模型部署后,会面临业务规则变化、约束条件遗漏以及突发扰动等问题,导致现有解决方案不再可行或最优。传统的重优化过程通常需要运筹学专家介入,耗时且成本高昂,难以满足快速响应的需求。现有方法缺乏灵活性和可解释性,难以让非专业用户理解和调整模型。

核心思路:利用大型语言模型(LLM)的自然语言理解和生成能力,构建一个用户友好的交互界面。用户可以通过自然语言描述需要进行的模型修改,LLM负责将这些描述转化为对底层优化模型的结构化更新。同时,LLM作为一个智能体,能够根据问题的特点选择合适的重优化技术,并利用历史信息加速求解过程。

技术框架:该框架包含以下几个主要模块:1) 自然语言交互模块:接收用户的自然语言指令,并将其转化为结构化的模型更新请求。2) LLM驱动的模型补丁生成模块:利用LLM将用户请求转化为对优化模型的具体修改,例如添加新的约束、修改目标函数等。这些修改以“补丁”的形式存在,方便追踪和管理。3) 优化工具箱:包含多种重优化技术,例如基于原始解的启发式算法、求解器参数调整策略等。LLM根据问题特点选择合适的工具。4) 求解器:使用商业或开源优化求解器求解更新后的模型。5) 结果解释模块:将求解结果以用户友好的方式呈现出来。

关键创新:该方法的核心创新在于利用LLM作为运筹学专家,将复杂的模型修改过程自动化,降低了对专业知识的需求,使得非专业用户也能参与到模型的重优化过程中。此外,结构化的模型补丁设计提高了模型修改的可解释性和可追溯性。

关键设计:LLM的选择和训练至关重要,需要选择具有较强代码生成能力和逻辑推理能力的LLM。优化工具箱需要包含多种重优化技术,并根据实际问题进行调整。模型补丁的设计需要考虑模型的结构和用户的需求,保证修改的准确性和可理解性。具体参数设置和损失函数等细节未在论文中详细描述,属于未知内容。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在供应链重优化案例中,该框架能够在短时间内生成高质量的解决方案,同时保持与原始计划的接近程度。在大学考试排程案例中,该框架能够找到比人工排程更好的解决方案。实验结果表明,基于工具箱的架构显著提高了计算效率,结构化的补丁更新提高了模型的可解释性。

🎯 应用场景

该研究成果可广泛应用于各种需要频繁重优化的决策支持系统,例如供应链管理、生产调度、资源分配、交通运输等领域。通过降低对运筹学专家的依赖,可以提高决策系统的响应速度和灵活性,更好地适应动态变化的环境。该框架还有助于提高模型的可解释性和可维护性,促进用户对模型的理解和信任。

📄 摘要(原文)

Optimization models developed by operations research (OR) experts are often deployed as decision-support systems in industrial settings. However, real-world environments are dynamic, with evolving business rules, previously overlooked constraints, and unforeseen perturbations. In such contexts, end users must rapidly re-optimize models to recover feasible and implementable solutions. This paper introduces an agentic re-optimization framework in which a large language model (LLM) acts as an OR expert, dynamically supporting end users through natural-language interaction. The LLM translates user prompts into structured updates of the underlying optimization model, selects suitable re-optimization techniques from an optimization toolbox, and solves the resulting instance to return implementable solutions. The toolbox leverages primal information, including historical solutions, valid inequalities, solver configurations, and metaheuristics, to accelerate re-optimization while preserving solution quality. The proposed framework enables interactive and continuous adaptation of deployed optimization models, reducing dependence on OR experts and improving the sustainability of decision-support systems. Extensive experiments on two complementary large-scale real-world case studies demonstrate the effectiveness and scalability of the proposed framework. The first considers online supply chain re-optimization, where solutions must be generated rapidly while remaining close to the deployed plan, whereas the second focuses on offline university exam scheduling, where solution quality is prioritized over runtime. Results show that the toolbox-driven architecture significantly improves computational efficiency through primal-based and solver-aware re-optimization techniques, while the structured patch-based updates improve interpretability and traceability of model modifications.