How the Audit Rule Shapes Faithful Factor Explanations in LLMs
作者: Taolin Zhang, Hanyu Wang, Jiuheng Wan, Tingyuan Hu, Chengyu Wang
分类: cs.CL
发布日期: 2026-10-01
💡 一句话要点
提出报告独立审计以解决LLM因果解释的真实度问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 因果解释 报告独立审计 反事实扰动 博弈论 自然语言处理 可解释性AI
📋 核心要点
- 现有方法在有限预算下，无法有效验证因素级影响，导致报告的真实度受到影响。
- 论文提出了一种报告独立审计机制，旨在消除因报告依赖性带来的抑制激励，从而促进真实报告。
- 实验结果表明，合成代理与理论预测完全一致，真实LLMs在明确激励时也遵循相同的行为模式。
📝 摘要（中文）
大型语言模型（LLMs）常被要求报告哪些输入因素影响了其输出。对于结构化输入，这些报告可以通过反事实扰动进行检查，但由于每个因素需要多次查询以估计其影响，因此验证通常受到预算限制。本文研究了在这一有限预算环境下，报告因素级影响的真实度受到的激励变化。我们将这一互动形式化为一个验证博弈，并表明仅依赖适当评分不足以确保真实报告：报告依赖的审计会产生抑制激励，因为被报告为重要的因素更可能被检查并因估计噪声而受到惩罚。相反，报告独立审计或带有小的报告独立底线的混合规则消除了这一渠道，使真实报告比完全抑制更具吸引力。我们用反事实布里尔评分（CBS）实例化该框架，并在四个NLP基准上评估其预测。合成理性代理完全匹配理论预测，真实的LLMs在明确激励时也遵循相同的模式。主要设计启示是：在部分验证下，因素级解释系统应包含报告独立审计组件，以避免通过低报来规避审查。
🔬 方法详解
问题定义：本文旨在解决在有限预算下，如何有效验证大型语言模型的因素级影响报告的真实度。现有方法在审计时依赖于报告内容，导致抑制激励，影响报告的真实性。
核心思路：论文提出了一种报告独立审计机制，旨在消除因报告依赖性带来的抑制激励，使得真实报告成为更优选择。通过引入报告独立的审计规则，模型能够在部分验证的情况下，鼓励真实的因素级解释。
技术框架：整体架构包括两个主要模块：1) 反事实布里尔评分（CBS）作为评分机制，2) 报告独立审计组件，确保审计不依赖于报告内容。该框架通过博弈论形式化，分析了不同审计策略对报告行为的影响。
关键创新：最重要的技术创新在于引入报告独立审计机制，消除了报告依赖性带来的抑制激励。这一设计与现有方法的本质区别在于，能够有效促进真实报告，而非仅仅依赖评分机制。
关键设计：在关键参数设置上，反事实布里尔评分被用作损失函数，确保模型在评估因素影响时能够准确反映真实情况。同时，设计了小的报告独立底线，以增强审计的有效性。实验中通过合成代理和真实LLMs的对比，验证了该设计的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，合成理性代理完全匹配理论预测，且在真实LLMs中，当激励明确时，模型遵循相同的报告行为。这表明引入报告独立审计机制显著提升了因素级解释的真实度，确保了模型输出的可信性。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理中的模型解释、决策支持系统以及任何需要透明度和可解释性的人工智能系统。通过引入报告独立审计机制，可以提高模型输出的可信度，进而增强用户对AI系统的信任。未来，这一方法可能推动更广泛的可解释AI研究与应用。
📄 摘要（原文）
Large language models are often asked which input factors influenced their outputs. For structured inputs, such reports can be checked by counterfactual perturbation, but each factor must be queried multiple times to estimate its effect, so verification is usually budget-limited. We study how this limited-budget setting changes the incentive to report factor-level influence truthfully. We formalize the interaction as a verification game and show that proper scoring alone is not enough when auditing depends on the report: report-dependent auditing creates a suppression incentive, because factors reported as important are more likely to be checked and penalized for estimation noise. In contrast, report-independent auditing, or a mixed rule with a small report-independent floor, removes this channel and makes truthful reporting preferable to full suppression. We instantiate the framework with the Counterfactual Brier Score (CBS) and evaluate its predictions on four NLP benchmarks. A synthetic rational agent matches the theoretical prediction exactly, and real LLMs follow the same incentives when they are made explicit. The main design implication is simple: under partial verification, factor-level explanation systems should include a report-independent audit component so that under-reporting cannot be used to avoid scrutiny.