Hierarchical Causal Abduction: A Foundation Framework for Explainable Model Predictive Control

📄 arXiv: 2605.10624v1 📥 PDF

作者: Ramesh Arvind Naagarajan, Zühal Wagner, Stefan Streif

分类: cs.AI, cs.LG

发布日期: 2026-05-11

💡 一句话要点

提出分层因果溯因（HCA）框架，实现非线性模型预测控制（MPC）的可解释性决策

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 模型预测控制 可解释人工智能 因果溯因 物理信息机器学习 控制系统安全 知识图谱

📋 核心要点

  1. 非线性MPC的复杂动力学与硬约束导致控制决策缺乏透明度，难以满足安全关键领域对可解释性的高要求。
  2. 提出分层因果溯因（HCA）框架，融合物理知识图谱、KKT优化证据与PCMCI时间因果发现，构建多维解释机制。
  3. 实验表明HCA在多领域应用中显著优于LIME，且各组件对提升解释准确性均具有不可或缺的贡献。

📝 摘要（中文）

模型预测控制（MPC）广泛应用于安全关键型基础设施，通过预测未来轨迹优化控制动作。然而，非线性动力学、硬约束及数值优化过程使得控制决策对人类操作员而言往往是不透明的，这削弱了信任并阻碍了部署。本文提出了分层因果溯因（HCA）框架，结合了基于领域知识图谱的物理推理、基于KKT乘子的优化证据以及基于PCMCI算法的时间因果发现，为非线性MPC生成的控制动作提供忠实且可解释的说明。在温室气候、建筑暖通空调（HVAC）和化学过程工程三个应用场景的专家验证中，HCA在无需针对特定领域调参的情况下，解释准确率较LIME提升了53%（0.478 vs 0.311）；经领域特定KKT阈值校准后，准确率进一步提升至0.88。消融实验证实了各证据源的必要性，且该方法具有良好的泛化性，可推广至学习型控制及轨迹规划等决策系统。

🔬 方法详解

问题定义：论文旨在解决非线性模型预测控制（MPC）中“黑盒”决策带来的可解释性缺失问题。现有方法（如LIME）通常忽略了控制系统的物理约束和优化本质，导致生成的解释缺乏忠实度，难以在安全关键领域建立信任。

核心思路：HCA采用“溯因推理”范式，将控制动作视为因果结果，通过回溯其背后的物理规律、优化条件和时间演化逻辑，构建一套层次化的解释框架，确保解释既符合物理常识又符合优化数学逻辑。

技术框架：框架包含三个核心模块：一是利用领域知识图谱进行物理一致性推理；二是提取MPC优化过程中的KKT乘子作为约束满足的证据；三是应用PCMCI算法进行时间序列因果发现，识别控制动作与系统状态间的因果链路。

关键创新：创新点在于将物理先验、优化数学结构与因果发现算法有机结合。与传统模型无关（model-agnostic）的解释方法不同，HCA利用了MPC内部的结构化信息，实现了对决策过程的“白盒”式溯源。

关键设计：关键设计包括KKT阈值的领域自适应校准机制，以及通过分层排序与专家验证方法，确保解释结果在不同控制任务间的通用性与准确性，避免了对单一场景的过度拟合。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

HCA在三个复杂控制场景中表现优异，解释准确率较基线模型LIME提升53%（从0.311提升至0.478）。通过领域特定的KKT阈值校准，准确率可进一步达到0.88。消融实验显示，移除物理推理、KKT证据或因果发现中的任一组件，均会导致32%至37%的性能下降，证明了各模块的协同必要性。

🎯 应用场景

该研究适用于温室气候控制、建筑HVAC系统、化学过程工程等对安全性与稳定性要求极高的工业控制领域。通过提供可解释的决策依据，该框架能显著提升操作员对自动化控制系统的信任度，并为学习型控制及轨迹规划系统的安全审计提供技术支撑。

📄 摘要（原文）

Model Predictive Control (MPC) is widely used to operate safety-critical infrastructure by predicting future trajectories and optimizing control actions. However, nonlinear dynamics, hard safety constraints, and numerical optimization often render individual control moves opaque to human operators, undermining trust and hindering deployment. This paper presents Hierarchical Causal Abduction (HCA), which combines (i) physics-informed reasoning via domain knowledge graphs, (ii) optimization evidence from Karush--Kuhn--Tucker (KKT) multipliers, and (iii) temporal causal discovery via the PCMCI algorithm to generate faithful, human-interpretable explanations for control actions computed by nonlinear MPC. Across three diverse control applications (greenhouse climate, building HVAC, chemical process engineering) with expert validation, HCA improves explanation accuracy by 53\% over LIME (0.478 vs. 0.311) using a single set of cross-domain parameters without per-domain tuning; domain-specific KKT-threshold calibration over 2--3 days further increases accuracy to 0.88. Ablation studies confirm that each evidence source is essential, with 32--37\% accuracy degradation when any component is removed, and HCA's ranking-and-validation methodology generalizes beyond MPC to other prediction-based decision systems, including learning-based control and trajectory planning.