All Explanations are Wrong, But Many Are Useful: Exploring the Rashomon Explanation Set with Large Language Models

📄 arXiv: 2607.09502v1 📥 PDF

作者: Pan Li

分类: cs.LG, cs.AI, cs.IR

发布日期: 2026-07-10

💡 一句话要点

提出Rashomon解释范式以解决可解释性与准确性之间的权衡问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 可解释人工智能 Rashomon解释 机器学习 自然语言处理 模型性能提升

📋 核心要点

  1. 现有的可解释人工智能方法在准确性与可解释性之间存在固有的权衡，限制了其在实际应用中的有效性。
  2. 本文提出Rashomon解释范式，通过构建一组预测指导的解释，解决了将解释与预测视为独立目标的问题。
  3. 在客户流失分类、临床生存回归和工业点击率预测等任务中，RashomonLLM在准确性和解释质量上均显著优于现有基线，提升效果显著。

📝 摘要（中文）

随着机器学习模型在决策和消费者信任中的重要性日益增加，解释模型的能力变得至关重要。然而，现有的可解释人工智能（XAI）方法普遍存在准确性与可解释性之间的权衡。本文提出Rashomon解释范式，通过构建一组忠实的、指导预测的解释，而非单一解释，证明该集合通常是非空的，并且解释的保真度限制了模型的性能。我们提出了RashomonLLM，一个通过自然语言生成解释的工作流，证明其收敛并恢复完整的解释集合。在多个实际应用中，RashomonLLM在准确性和解释质量上显著超越了现有的预测和XAI基线，推动了商业表现并为消费者信任奠定基础。

🔬 方法详解

问题定义：本文旨在解决现有可解释人工智能方法中存在的准确性与可解释性之间的权衡问题。现有方法往往将解释与预测视为独立目标，导致模型性能受限。

核心思路：论文提出Rashomon解释范式，主张通过构建一组忠实的、预测指导的解释来替代单一解释，从而实现解释与预测的互补关系，提升模型的整体性能。

技术框架：RashomonLLM的整体架构包括三个主要模块：解释生成、预测对齐和反思机制。通过迭代过程，生成的解释与模型预测进行对齐，确保解释的有效性和准确性。

关键创新：最重要的技术创新在于引入Rashomon解释范式，证明了解释集合的非空性，并展示了解释的保真度如何限制模型性能的理论基础。这与传统方法的单一解释输出形成鲜明对比。

关键设计：在设计中，RashomonLLM采用了迭代优化策略，结合自然语言处理技术生成解释，并通过特定的损失函数确保解释的保真度与预测的准确性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在多个实际应用中，RashomonLLM在客户流失分类、临床生存回归和工业点击率预测任务上，准确性和解释质量均显著超越了现有的最先进基线，具体提升幅度达到XX%（具体数据需根据实验结果填写），展现了其强大的实用性和有效性。

🎯 应用场景

该研究的潜在应用领域包括金融、医疗和工业等多个行业，能够帮助决策者更好地理解模型的预测结果，从而增强消费者信任和决策透明度。未来，该框架可能推动更多领域的可解释人工智能研究，促进模型的广泛应用。

📄 摘要（原文）

Explaining machine-learning models is increasingly important for decision-making and consumer trust, yet it is widely believed to come at a cost: existing Explainable AI (XAI) methods suffer from a persistent accuracy-explainability trade-off. We argue that this trade-off is not fundamental, but an artifact of treating explanation and prediction as separate objectives; when properly coupled, they become complementary, so that equipping a model to explain itself improves, rather than degrades, its accuracy. We introduce the Rashomon Explanation paradigm, which builds a set of faithful, prediction-guiding explanations rather than a single one, and prove that this set is generally non-empty and that explanation fidelity bounds the performance of the models it guides. To explore this set, we propose RashomonLLM, an Explanation-Prediction-Reflection agentic workflow that generates explanations in natural language by iteratively aligning them with predictions, and we prove it converges and recovers the full set. Across customer-churn classification, clinical survival regression, and industrial click-through prediction on large-scale live-streaming logs, RashomonLLM significantly outperforms state-of-the-art prediction and XAI baselines on both accuracy and explanation quality, with gains driven by explanation fidelity and robust to distribution shifts, temporal splits, and seeds. Our framework thus advances business performance while laying the groundwork for consumer trust.