Complexity Horizons of Compressed Models in Analog Circuit Analysis

📄 arXiv: 2605.02285v1 📥 PDF

作者: Pacome Simon Mbonimpa

分类: cs.AI

发布日期: 2026-05-04

🔗 代码/项目: GITHUB | HUGGINGFACE

💡 一句话要点

提出基于前提图的模型压缩策略，优化LLM在电路分析中的推理效率。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 模型压缩 电路分析 前提图 知识图谱

📋 核心要点

  1. 现有方法在评估LLM在电路分析中的性能时，忽略了工程知识的层次性，导致模型选择效率低下。
  2. 论文提出一种性能感知的模型压缩策略，利用前提图来指导LLM压缩变体的选择，以实现精度和效率的平衡。
  3. 实验结果表明，该方法能够根据电路分析的复杂性，选择最小的压缩模型，同时保证性能。

📝 摘要（中文）

在电路分析等专业工程领域部署大型语言模型（LLM）时，常常面临推理精度和计算效率之间的权衡。传统的评估方法将模型性能视为扁平指标，忽略了工程知识的层次结构。我们提出了一种性能感知的模型压缩策略，该策略利用前提图来优化电路分析任务的模型选择。通过将电子设计概念构建为有向无环图（DAG），我们可以识别LLM压缩变体的特定复杂性边界。我们的框架引入了一个基于代理的pipeline，用于生成基于前提的数据集，以及一个战略评估引擎，该引擎在LLM的一系列压缩变体中动态地级联查询。这种方法允许选择最小的压缩模型，同时满足其在电路分析中的概念知识边界。在模拟电子数据集上的实验结果表明，前提图提供了模型压缩的细粒度映射，并对应于电路分析复杂性下的性能。

🔬 方法详解

问题定义：论文旨在解决在模拟电路分析中使用大型语言模型（LLM）时，推理精度和计算效率之间的权衡问题。现有方法通常将模型性能视为一个扁平化的指标，忽略了电路分析知识的层次结构，导致无法有效选择合适的压缩模型，造成资源浪费或精度不足。

核心思路：论文的核心思路是利用前提图（Prerequisite Graphs）来表示电路分析知识的层次结构，并以此指导模型压缩和选择。通过构建电子设计概念的有向无环图（DAG），可以清晰地定义不同概念之间的依赖关系，从而确定LLM在不同压缩程度下的知识边界。这样，就可以根据具体的电路分析任务，选择满足知识需求且计算成本最低的压缩模型。

技术框架：该框架包含两个主要组成部分：1) 基于代理的pipeline，用于生成基于前提的数据集；2) 战略评估引擎，用于动态地在LLM的压缩变体中级联查询。首先，利用代理生成包含前提知识的数据集，这些数据集反映了电路分析知识的层次结构。然后，战略评估引擎根据任务的复杂程度，从最简单的压缩模型开始，逐步尝试更复杂的模型，直到找到满足性能要求的最小模型。

关键创新：该论文的关键创新在于将前提图的概念引入到LLM的压缩和选择过程中。通过前提图，可以对LLM的知识边界进行细粒度的建模，从而实现性能感知的模型压缩。与传统的模型压缩方法相比，该方法能够更好地平衡精度和效率，并根据具体的任务需求选择合适的模型。

关键设计：论文的关键设计包括：1) 前提图的构建方法，需要仔细定义电路分析概念之间的依赖关系；2) 基于代理的数据集生成策略，需要确保数据集能够覆盖不同层次的知识；3) 战略评估引擎的查询级联策略，需要根据任务的复杂程度动态调整查询的顺序和模型选择。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，该方法能够根据电路分析的复杂性，选择最小的压缩模型，同时保证性能。具体而言，通过前提图的指导，可以在一定程度上减少计算资源的使用，同时保持与未压缩模型相近的分析精度。该方法为LLM在专业领域的应用提供了一种有效的模型压缩和选择策略。

🎯 应用场景

该研究成果可应用于各种需要使用LLM进行专业领域分析的场景，例如电子设计自动化（EDA）、故障诊断、电路优化等。通过选择合适的压缩模型，可以在保证分析精度的前提下，显著降低计算成本，提高效率。此外，该方法还可以推广到其他工程领域，例如机械设计、化学工程等。

📄 摘要（原文）

The deployment of Large Language Models (LLMs) for specialized engineering domains, such as circuit analysis, often faces a trade-off between reasoning accuracy and computational efficiency. Traditional evaluation methods treat model performance as a flat metric, failing to account for the hierarchical nature of engineering knowledge. We propose a performance-aware model compression strategy that utilizes prerequisite graphs to optimize model selection for circuit analysis tasks. By structuring electronics design concepts as Directed Acyclic Graphs (DAGs), we can identify the specific complexity horizons of an LLM's compressed variants' tiers. Our framework introduces an agentic pipeline for generating prerequisite-based datasets and a strategic evaluation engine that dynamically cascades queries across a spectrum of compressed variants of an LLM. This approach allows to select the smallest compressed model, given its conceptual knowledge boundaries in circuit analysis. Experimental results on analog electronics datasets demonstrate that prerequisite graphs provide a granular map of model compression with respect to the performance given circuit analysis complexity. (Source Code: https://github.com/pacomesimon/LLM_prereq_graphs_circuit_analysis, Demo: https://huggingface.co/spaces/pacomesimon/LLM_prereq_graphs_circuit_analysis)