Explaining Process Control Optimisation Recommendations via GradientSHAP and Implicit Differentiation
作者: Paul Darm, Cem Alpturk, Kenneth Ulrich, William Duncan, Ali Anwar, Annalisa Riccardi
分类: cs.AI
发布日期: 2026-07-16
💡 一句话要点
提出基于GradientSHAP和隐式微分的优化推荐解释方法
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 可解释人工智能 优化算法 隐式函数定理 SHAP 工业自动化 自然语言生成 过程控制
📋 核心要点
- 现有的优化算法与操作员之间存在信任差距，导致操作员对算法推荐的执行不够积极。
- 本文提出将隐式函数定理与SHAP归因相结合，生成针对操作员的实时自然语言解释，以提高可解释性。
- 在工业HPGR控制优化问题中，提出的方法实现了与传统方法相当的解释效果，并显著提升了计算速度。
📝 摘要（中文）
自动化优化在工业过程中的应用日益增加，但工程师与操作员之间的信任差距仍然存在。解释性人工智能方法如SHAP（Shapley加性解释）已在机器学习预测的可解释性方面取得了显著进展，优化输出也可以受益于类似技术。本文提出了一种将基于隐式函数定理的灵敏度分析与SHAP归因和大型语言模型（LLM）生成叙述相结合的方法，为操作员提供量身定制的解释。我们利用隐式函数定理计算最优条件下的精确参数灵敏度，从而实现高效的GradientSHAP计算。在一个包含22个特征的工业高压研磨辊（HPGR）控制优化问题中，我们实现了与KernelSHAP的SHAP归因相关性超过0.99的结果，并实现了40倍的速度提升，使实时自然语言解释成为可能。我们在工业场景中进行了验证，并展示了领域专家对生成解释的反馈。
🔬 方法详解
问题定义：本文旨在解决工业过程优化中，工程师与操作员之间因缺乏可解释性而产生的信任差距。现有的解释性方法在优化推荐的可解释性上存在不足，无法有效传达算法的决策依据。
核心思路：论文提出了一种新颖的方法，将隐式函数定理（IFT）与SHAP归因结合，利用IFT计算参数灵敏度，从而高效生成优化推荐的解释。这一设计旨在提高操作员对算法推荐的理解和信任。
技术框架：整体方法包括三个主要模块：首先，利用隐式函数定理计算最优条件下的参数灵敏度；其次，基于计算结果应用GradientSHAP进行归因分析；最后，利用大型语言模型生成自然语言解释，确保解释的可读性和实用性。
关键创新：本文的主要创新在于将隐式函数定理与SHAP结合，提供了一种高效的计算方式，使得在实时场景中生成可解释的优化推荐成为可能。这一方法在速度和准确性上均优于传统的KernelSHAP方法。
关键设计：在实现过程中，关键参数设置包括灵敏度计算的精度和SHAP归因的计算效率。通过优化算法的实现，确保了在处理22个特征的复杂工业问题时，能够快速生成高质量的解释。
🖼️ 关键图片
📊 实验亮点
实验结果表明，提出的方法在工业HPGR控制优化问题中，SHAP归因的相关性超过0.99，相较于传统KernelSHAP方法实现了40倍的速度提升。这一显著的性能提升使得实时生成自然语言解释成为可能，极大地增强了优化推荐的可解释性。
🎯 应用场景
该研究的潜在应用领域包括工业自动化、过程控制和智能制造等。通过提高优化算法的可解释性，能够增强操作员对算法推荐的信任，从而提升生产效率和安全性。未来，该方法可扩展至其他领域的优化问题，推动智能决策系统的发展。
📄 摘要（原文）
Automated optimisation is increasingly adopted in industrial processes, yet a trust gap persists between engineers who design these algorithms and operators who must act on their recommendations. Explainable AI methods like SHAP (SHapley Additive exPlanations) have transformed interpretability for machine learning predictions; optimisation outputs could benefit from similar techniques. We present an approach that integrates Implicit Function Theorem (IFT) based sensitivity analysis with SHAP attribution and narrative generation via Large Language Models (LLM), producing explanations tailored for operators. Our approach leverages IFT to compute exact parameter sensitivities $\partial p^*/\partial x$ from the optimality conditions, enabling efficient GradientSHAP computation. For an industrial High Pressure Grinding Roll (HPGR) control optimisation problem with 22 features, we achieve equivalent SHAP attributions (correlation $>$0.99 with KernelSHAP) with over 40$\times$ speedup, enabling real-time natural language explanations. We validate on industrial scenarios and present feedback from domain experts on generated explanations.