Explainability Assistant: A Conversational XAI Interface for Interpreting Energy Consumption Models
作者: Rodion Krjutškov, Eduard Barbu, Nikos Sakkas, Sofia Yfanti
分类: cs.AI, cs.LG
发布日期: 2026-09-10
备注: 11 pages, 3 figures. Accepted author version of a paper published at ICECET 2026
期刊: 2026 6th International Conference on Electrical, Computer and Energy Technologies (ICECET), Rome, Italy, 2026
DOI: 10.1109/ICECET65726.2026.11632877
💡 一句话要点
提出对话式XAI助手以解决能源消费模型解释问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 可解释人工智能 对话式系统 能源消费预测 机器学习 自然语言处理 用户体验 模型解释
📋 核心要点
- 现有的XAI方法如TalkToModel在意图解析准确性和灵活性上存在不足，限制了其在能源消费模型中的应用。
- 本文提出的Explainability Assistant利用大型语言模型的函数调用能力，支持灵活的自然语言交互，显著提升了解释的可用性。
- 实验结果表明，该系统的意图解析准确率达到94%，在与传统XAI仪表板的比较中，专家们一致偏好对话式界面。
📝 摘要（中文）
能源消费预测依赖于日益复杂的机器学习模型，如基于遗传编程的符号回归模型，其预测结果对设施管理者和建筑运营者来说难以理解。可解释人工智能（XAI）技术旨在解决这一不透明性，但传统的XAI仪表板需要较高的技术专长，并且在动态、上下文感知的查询中灵活性有限。对话式XAI系统提供了一个有前景的替代方案；然而，之前的方法如TalkToModel受限于严格的自定义语法，意图解析准确率仅为76.8%。本文介绍了一种开源的对话式XAI系统——Explainability Assistant，利用现代大型语言模型（LLMs）的函数调用能力克服这些限制。该系统实现了94%的意图解析准确率，支持灵活的自然语言交互，并且无需任务特定的微调即可适应不同的机器学习问题类型。我们展示了系统的架构，并报告了与能源领域专家进行的比较评估结果，结果显示该对话式界面在可用性和任务准确性上均有所改善，所有专家一致偏好该对话式界面进行实际使用。
🔬 方法详解
问题定义：本文旨在解决能源消费模型的可解释性问题，现有的XAI方法如TalkToModel在意图解析准确性和灵活性上存在不足，导致用户难以有效理解复杂模型的预测结果。
核心思路：Explainability Assistant通过利用现代大型语言模型的函数调用能力，提供灵活的自然语言交互，允许用户以更自然的方式查询和理解模型的输出，从而克服传统XAI工具的局限性。
技术框架：系统架构包括用户交互模块、意图解析模块和模型解释模块。用户通过自然语言输入查询，意图解析模块将其转换为可执行的函数调用，模型解释模块则返回相应的解释信息。
关键创新：该系统的主要创新在于实现了94%的意图解析准确率，显著高于传统方法，并且无需针对特定任务进行微调，增强了系统的适应性和灵活性。
关键设计：系统设计中采用了先进的自然语言处理技术，确保意图解析的准确性和响应速度，同时在用户界面上提供了直观的交互体验，提升了用户的使用满意度。
🖼️ 关键图片
📊 实验亮点
实验结果显示，Explainability Assistant的意图解析准确率达到94%，相比于传统XAI仪表板的76.8%有显著提升。此外，专家评估表明，该对话式界面在可用性和任务准确性上均优于传统方法，所有参与者一致偏好使用该系统进行实际操作。
🎯 应用场景
Explainability Assistant在能源管理、建筑运营等领域具有广泛的应用潜力。通过提供易于理解的模型解释，该系统能够帮助设施管理者和建筑运营者更好地做出决策，提高能源使用效率，降低运营成本。未来，该技术还可以扩展到其他复杂机器学习模型的解释任务中，推动各行业的智能化发展。
📄 摘要（原文）
Energy consumption forecasting relies on increasingly complex machine learning (ML) models, such as Genetic Programming-based symbolic regressors, whose predictions can be difficult for facility managers and building operators to interpret. Explainable Artificial Intelligence (XAI) techniques address this opacity, but traditional XAI dashboards require substantial technical expertise and provide limited flexibility for dynamic, context-aware inquiry. Conversational XAI systems offer a promising alternative; however, previous approaches, such as TalkToModel, were constrained by rigid custom grammars and achieved only 76.8% intent-parsing accuracy. This paper introduces the Explainability Assistant, an open-source conversational XAI system that leverages the function-calling capabilities of modern Large Language Models (LLMs) to overcome these limitations. The system achieves 94% intent-parsing accuracy, supports flexible natural language interaction, and adapts to different ML problem types without task-specific fine-tuning. We present the system's architecture and report results from a comparative evaluation conducted with energy domain specialists, contrasting the Explainability Assistant with a traditional XAI dashboard. The evaluation suggests improved usability and consistent task accuracy, with all experts unanimously preferring the conversational interface for practical use.