Data storytelling meets interpretable machine learning: Decoding AI decisions for non-experts without revealing sensitive data and model details

📄 arXiv: 2609.15722v1 📥 PDF

作者: Lemen Chao, Zixuan Yang, Anran Fang, Mingran Sun, Ming Lei

分类: cs.AI, cs.CL, cs.HC, cs.LG

发布日期: 2026-09-14

💡 一句话要点

提出数据故事与可解释机器学习结合的方法以提升AI决策的可理解性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 可解释机器学习 数据故事 AI决策 SHAP 大型语言模型 可访问性 波士顿房价数据集

📋 核心要点

  1. 现有的可解释机器学习方法在技术复杂性上存在不足，导致非专家难以理解AI决策。
  2. 本研究提出将数据故事与可解释机器学习结合，设计了DIST金字塔和I-P-O模型以增强可解释性。
  3. 通过对波士顿房价数据集的案例研究，结果显示76.4%和74.3%的受访者认为新方法的可理解性显著高于传统方法。

📝 摘要（中文）

随着AI驱动的自动决策需求增加，既要保证预测性能又要确保可解释性。现有的可解释机器学习（IML）工具虽然能解释模型预测，但其技术复杂性可能使非专家难以理解。为了解决这一挑战，本研究将数据故事与IML结合，增强AI生成决策的可解释性。研究提出了数据故事在IML中的正式定义，构建了DIST金字塔以对齐数据故事与IML，并提出了I-P-O模型描述二者的交互。通过案例研究，验证了该方法的有效性，结果显示其可理解性显著高于传统SHAP可视化。

🔬 方法详解

问题定义：本研究旨在解决AI决策的可解释性不足问题，尤其是非专家对复杂模型预测结果的理解障碍。现有的可解释机器学习方法往往难以被普通用户接受，缺乏有效的沟通方式。

核心思路：本研究的核心思路是将数据故事的叙述方式与可解释机器学习结合，通过简化和结构化的方式，使AI决策的解释更易于理解。通过设计DIST金字塔和I-P-O模型，明确数据故事与IML之间的关系，增强其可访问性。

技术框架：整体架构包括两个主要模块：一是“What-if”和“Why-not”事件生成过程，二是数据去敏感化模块，以保护敏感输入数据。通过这些模块，生成易于理解的数据故事。

关键创新：本研究的关键创新在于将数据故事与IML结合，提出了新的解释框架，显著提高了AI决策的可理解性。这一方法与传统的SHAP可视化方法相比，提供了更直观的解释方式。

关键设计：在技术细节上，采用SHAP值和大型语言模型（LLMs）生成数据故事，使用And-But-Therefore（ABT）结构来组织叙述，确保故事的逻辑性和连贯性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，76.4%和74.3%的受访者认为新生成的“What-if”和“Why-not”数据故事比传统SHAP可视化更易于理解，且可访问性评分显著提高，表明该方法在可解释性方面的有效性。

🎯 应用场景

该研究的潜在应用领域包括医疗、金融和法律等需要AI辅助决策的行业。通过提升AI决策的可理解性，能够帮助非专家用户更好地理解和信任AI系统，从而促进AI技术的广泛应用与接受。

📄 摘要（原文）

AI-driven automated decision-making requires both predictive performance and interpretability. Recent advances in interpretable machine learning (IML) provide tools for explaining model predictions, but the technical complexity of these explanations may hinder accessibility to non-experts. To address this challenge, this study integrates data storytelling with IML to enhance the explainability of AI-generated decisions for a broader audience. Following the design science research (DSR) paradigm, this study proposes a formal definition of data storytelling in IML, introduces the DIST Pyramid to align data storytelling with IML, and presents the I-P-O Model to describe their interactions. It further develops an architecture to explain AI decisions through distinct "What-if" and "Why-not" event-generation processes. The architecture also employs data desensitization to protect sensitive input data. To validate the approach, a case study is conducted with the Boston Housing dataset, using SHapley Additive exPlanations (SHAP) values and large language models (LLMs) to generate data stories with And-But-Therefore (ABT) structures. An empirical evaluation shows that 76.4% and 74.3% of respondents rated the "What-if" and "Why-not" data stories as more comprehensible, with significantly higher accessibility scores than traditional SHAP visualizations. The paper concludes with the presentation of a narrative interpretation framework that integrates IML and data storytelling, thereby expanding the research scope as well as the practical applicability of AI decision-making.