Large Language Models for Combinatorial Optimization of Design Structure Matrix

📄 arXiv: 2506.09749 📥 PDF

作者: Shuo Jiang, Min Xie, Jianxi Luo

分类: cs.CE, cs.AI

发布日期: 2026-04-07

💡 一句话要点

提出基于大语言模型的DSM重排序优化方法，提升复杂工程系统模块化效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 设计结构矩阵 组合优化 工程设计 上下文学习

📋 核心要点

  1. 传统DSM重排序方法难以捕捉复杂依赖关系中的上下文信息，导致优化效果不佳。
  2. 提出一种基于LLM的框架，结合网络拓扑和领域知识，迭代优化DSM排序。
  3. 实验表明，该方法比传统方法收敛更快，解的质量更高，且领域知识的融入能显著提升性能。

📝 摘要（中文）

在复杂工程系统中，组件或开发活动之间的依赖关系通常使用设计结构矩阵（DSM）建模和分析。重新组织DSM中的元素以最小化反馈循环并提高模块化或流程效率，是工程设计和运营中一个具有挑战性的组合优化（CO）问题。随着问题规模的增加和依赖网络的日益复杂，仅依赖数学启发式的传统优化方法通常无法捕捉到上下文细微差别，难以提供有效的解决方案。本研究探索了大型语言模型（LLM）在解决此类CO问题方面的潜力，利用其高级推理和上下文理解能力。我们提出了一种新颖的基于LLM的框架，该框架集成了网络拓扑和上下文领域知识，用于迭代优化DSM排序——一种常见的CO问题。在各种DSM案例上的实验表明，与随机和确定性基线相比，我们的方法始终能够实现更快的收敛速度和更高的解决方案质量。值得注意的是，无论选择哪个LLM骨干网络，结合上下文领域知识都能显著提高优化性能。这些发现突出了LLM通过结合语义和数学推理来解决复杂工程CO问题的潜力。这种方法为基于LLM的工程设计优化开辟了一种新的范例。

🔬 方法详解

问题定义：论文旨在解决设计结构矩阵（DSM）的组合优化问题，具体而言是DSM的重排序问题。现有方法，如基于数学启发式的算法，在处理大规模、复杂依赖关系的DSM时，无法有效捕捉上下文信息，导致优化效果不佳，难以找到全局最优解。这些方法通常依赖于固定的数学规则，缺乏对工程领域知识的利用。

核心思路：论文的核心思路是利用大型语言模型（LLM）的强大推理和上下文理解能力，将DSM重排序问题转化为一个LLM可以处理的序列生成或排序问题。通过将DSM的网络拓扑结构和工程领域的上下文知识融入到LLM的输入中，使LLM能够理解组件之间的依赖关系和重要性，从而生成更优的排序方案。这种方法的核心在于将数学优化问题转化为语义理解和推理问题。

技术框架：该框架主要包含以下几个阶段：1) DSM表示：将DSM转化为LLM可以理解的文本或向量表示，包括组件名称、依赖关系描述等。2) 上下文知识融合：将工程领域的上下文知识（例如，组件的功能、重要性、开发阶段等）融入到LLM的输入中，可以通过prompt工程或知识图谱等方式实现。3) LLM排序：利用LLM生成候选的DSM排序方案，可以采用序列生成或直接排序的方式。4) 评估与迭代：使用预定义的评估指标（例如，反馈循环的数量、模块化程度等）评估LLM生成的排序方案，并根据评估结果进行迭代优化，例如通过强化学习或微调LLM。

关键创新：该论文的关键创新在于将LLM应用于DSM重排序问题，并成功地将网络拓扑结构和上下文领域知识融入到LLM的优化过程中。与传统的数学优化方法相比，该方法能够更好地捕捉复杂依赖关系中的上下文信息，从而生成更优的排序方案。此外，该方法还提供了一种新的范式，即利用LLM解决工程设计中的组合优化问题。

关键设计：论文的关键设计包括：1) 如何将DSM转化为LLM可以理解的输入格式；2) 如何有效地融入上下文领域知识，例如通过prompt工程设计合适的提示语；3) 如何设计评估指标来衡量排序方案的质量；4) 如何利用迭代优化算法（例如，强化学习）来提升LLM的排序性能。具体的参数设置、损失函数和网络结构取决于所选择的LLM模型和优化算法。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，基于LLM的DSM重排序方法在收敛速度和解的质量方面均优于传统的随机和确定性基线方法。具体而言，该方法能够更快地找到更优的排序方案，显著减少反馈循环的数量，提高模块化程度。更重要的是，实验证明了上下文领域知识的融入能够显著提升优化性能，无论选择哪个LLM骨干网络。这表明了LLM在解决复杂工程优化问题方面的巨大潜力。

🎯 应用场景

该研究成果可广泛应用于复杂工程系统的设计与优化，例如航空航天、汽车工程、软件开发等领域。通过优化DSM，可以减少反馈循环，提高模块化程度，从而缩短开发周期、降低成本、提升产品质量。此外，该方法还可以应用于项目管理、供应链优化等领域，具有重要的实际应用价值和广阔的应用前景。未来，该方法有望与自动化设计工具集成，实现智能化的工程设计。

📄 摘要（原文）

In complex engineering systems, the dependencies among components or development activities are often modeled and analyzed using Design Structure Matrix (DSM). Reorganizing elements within a DSM to minimize feedback loops and enhance modularity or process efficiency constitutes a challenging combinatorial optimization (CO) problem in engineering design and operations. As problem sizes increase and dependency networks become more intricate, traditional optimization methods that rely solely on mathematical heuristics often fail to capture the contextual nuances and struggle to deliver effective solutions. In this study, we explore the potential of Large Language Models (LLMs) to address such CO problems by leveraging their capabilities for advanced reasoning and contextual understanding. We propose a novel LLM-based framework that integrates network topology with contextual domain knowledge for iterative optimization of DSM sequencing-a common CO problem. Experiments on various DSM cases demonstrate that our method consistently achieves faster convergence and superior solution quality compared to both stochastic and deterministic baselines. Notably, incorporating contextual domain knowledge significantly enhances optimization performance regardless of the chosen LLM backbone. These findings highlight the potential of LLMs to solve complex engineering CO problems by combining semantic and mathematical reasoning. This approach paves the way towards a new paradigm in LLM-based engineering design optimization.