Using Large Language Models and Knowledge Graphs to Improve the Interpretability of Machine Learning Models in Manufacturing

📄 arXiv: 2604.16280v1 📥 PDF

作者: Thomas Bayer, Alexander Lohr, Sarah Weiß, Bernd Michelberger, Wolfram Höpken

分类: cs.AI

发布日期: 2026-04-17

备注: 14 pages, 8 figures, Submittet to conference

💡 一句话要点

利用大语言模型和知识图谱提升机器学习模型在制造业中的可解释性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 可解释人工智能 知识图谱 大型语言模型 制造业 机器学习 模型解释 XAI问题库

📋 核心要点

  1. 现有的可解释人工智能方法在透明且用户友好地解释机器学习结果方面存在挑战。
  2. 该方法的核心思想是利用知识图谱存储领域知识和机器学习结果，并结合大语言模型生成用户友好的解释。
  3. 在制造业环境中，通过XAI问题库评估，结果表明该方法能够成功应用于实际场景，支持更好的决策。

📝 摘要（中文）

本文提出了一种利用知识图谱(KG)增强机器学习(ML)模型可解释性的方法，旨在解决可解释人工智能(XAI)中解释ML结果的透明性和用户友好性难题。该方法将领域特定数据以及ML结果和相应的解释存储在KG中，从而在领域知识和ML洞察之间建立结构化连接。为了方便用户访问这些洞察，设计了一种选择性检索方法，从KG中提取相关三元组，并由大型语言模型(LLM)处理，生成用户友好的ML结果解释。该方法在制造业环境中使用XAI问题库进行了评估，并引入了更复杂、定制化的问题，突出了该方法的优势。通过定量指标（如准确性和一致性）以及定性指标（如清晰度和有用性）分析了33个问题的响应。该研究的贡献包括理论和实践两方面：理论上，提出了一种有效利用LLM动态访问KG以提高ML结果可解释性的新方法；实践上，提供了经验证据，表明这种解释可以成功应用于实际的制造环境中，从而支持更好的制造过程决策。

🔬 方法详解

问题定义：论文旨在解决机器学习模型在制造业应用中可解释性不足的问题。现有方法难以将领域知识与模型预测结果有效结合，导致用户难以理解模型决策过程，阻碍了模型在实际生产中的应用。

核心思路：论文的核心思路是构建一个包含领域知识的知识图谱，并利用大语言模型将知识图谱中的信息转化为用户友好的解释。通过将机器学习结果与知识图谱中的相关知识关联起来，可以为用户提供更全面、更易于理解的解释。

技术框架：该方法的技术框架主要包括以下几个模块：1) 构建领域知识图谱，存储领域特定数据、ML结果及其解释；2) 设计选择性检索方法，从知识图谱中提取与特定ML结果相关的三元组；3) 利用大语言模型处理提取的三元组，生成用户友好的解释；4) 通过XAI问题库评估生成的解释的质量。

关键创新：该方法最重要的技术创新点在于将知识图谱和大语言模型相结合，实现对机器学习模型结果的动态解释。与现有方法相比，该方法能够更有效地利用领域知识，生成更具上下文感知和用户友好的解释。

关键设计：论文的关键设计包括：1) 知识图谱的构建方式，需要考虑如何有效地存储和组织领域知识；2) 选择性检索方法的具体实现，需要考虑如何准确地提取与特定ML结果相关的三元组；3) 大语言模型的选择和微调，需要考虑如何生成清晰、简洁、易于理解的解释。

📊 实验亮点

论文在制造业环境中使用XAI问题库进行了评估，通过定量和定性指标分析了33个问题的响应。实验结果表明，该方法能够生成准确、一致、清晰和有用的解释，能够成功应用于实际的制造环境中，支持更好的制造过程决策。论文还引入了更复杂、定制化的问题，突出了该方法的优势。

🎯 应用场景

该研究成果可广泛应用于制造业领域，例如故障诊断、工艺优化、质量控制等。通过提供可解释的机器学习模型，可以帮助工程师和管理人员更好地理解生产过程，做出更明智的决策，提高生产效率和产品质量。未来，该方法还可以扩展到其他领域，如医疗、金融等。

📄 摘要（原文）

Explaining Machine Learning (ML) results in a transparent and user-friendly manner remains a challenging task of Explainable Artificial Intelligence (XAI). In this paper, we present a method to enhance the interpretability of ML models by using a Knowledge Graph (KG). We store domain-specific data along with ML results and their corresponding explanations, establishing a structured connection between domain knowledge and ML insights. To make these insights accessible to users, we designed a selective retrieval method in which relevant triplets are extracted from the KG and processed by a Large Language Model (LLM) to generate user-friendly explanations of ML results. We evaluated our method in a manufacturing environment using the XAI Question Bank. Beyond standard questions, we introduce more complex, tailored questions that highlight the strengths of our approach. We evaluated 33 questions, analyzing responses using quantitative metrics such as accuracy and consistency, as well as qualitative ones such as clarity and usefulness. Our contribution is both theoretical and practical: from a theoretical perspective, we present a novel approach for effectively enabling LLMs to dynamically access a KG in order to improve the explainability of ML results. From a practical perspective, we provide empirical evidence showing that such explanations can be successfully applied in real-world manufacturing environments, supporting better decision-making in manufacturing processes.