Can We Do Interpretable NLI with Graphs Based on Atomic Propositions?
作者: Younes Boufouss, Luc Pommeret, Thomas Gerald, Patrick Paroubek, Sophie Rosset
分类: cs.AI, cs.IR
发布日期: 2026-09-15
期刊: AKBC @ EMNLP, Oct 2026, Budapest, Hungary
💡 一句话要点
提出图基推理方法以实现可解释的自然语言推理
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自然语言推理 可解释性 图形表示 大型语言模型 ConceptNet 互补性
📋 核心要点
- 现有的基于大型语言模型的自然语言推理方法虽然准确性高，但缺乏可解释性，决策过程不透明。
- 本文提出了一种全新的图基推理方法，通过将句子分解为原子命题并构建图形表示，避免直接处理文本。
- 在SNLI数据集上，该方法达到了89.7%的准确率，结合图形和文本时准确率提升至92.1%，显示出两者的互补性。
📝 摘要（中文）
尽管基于大型语言模型的自然语言推理系统在准确性上表现优异，但其决策过程缺乏可审计结构。本文探讨了是否可以仅使用可解释的图形表示进行自然语言推理。我们提出了一种完全基于图形的流程，分类器不直接处理输入文本，而是将句子分解为原子命题，通过约束解码转换为ConceptNet三元组，并表示为三个图：前提、假设和检索的ConceptNet子图。这些图被输入到一个经过微调的800百万参数语言模型中。在SNLI数据集上，我们的流程达到了89.7%的准确率，仅比同样训练的文本模型低1.9个百分点。我们称这种差距为可解释性的代价，并证明它源于表示限制而非数据约束。消融研究进一步表明，图形和文本是互补的：结合两种模态在SNLI上达到了92.1%的准确率。
🔬 方法详解
问题定义：本文旨在解决现有自然语言推理方法缺乏可解释性的问题，现有基于大型语言模型的系统虽然准确，但其决策过程不透明，难以审计。
核心思路：我们提出了一种基于图形的推理方法，利用原子命题和ConceptNet三元组构建可解释的图形表示，分类器不直接处理输入文本，从而提高可解释性。
技术框架：整体流程包括三个主要模块：首先将句子分解为原子命题，其次通过约束解码生成ConceptNet三元组，最后构建前提、假设和ConceptNet子图的图形表示，并输入到微调的语言模型中进行推理。
关键创新：最重要的创新在于完全依赖图形表示进行推理，而非传统的文本处理方式，这使得推理过程更加透明和可审计。
关键设计：在模型设计上，我们使用了一个800百万参数的语言模型，并通过消融实验验证了图形和文本的互补性，结合两者时的准确率显著提升。
🖼️ 关键图片
📊 实验亮点
在SNLI数据集上，提出的方法达到了89.7%的准确率，结合图形和文本时准确率提升至92.1%。该方法的性能仅比同样训练的文本模型低1.9个百分点，显示出图形表示的有效性和互补性。
🎯 应用场景
该研究的潜在应用领域包括法律文本分析、医疗记录解读和教育领域的自动评估系统等。通过提供可解释的推理过程，用户可以更好地理解模型的决策依据，从而在实际应用中增强信任度和可用性。未来，该方法有望在更多需要透明度的AI应用中发挥重要作用。
📄 摘要（原文）
While Large Language Model (LLM)-based Natural Language Inference (NLI) systems achieve high accuracy, their decision-making processes lack auditable structures. This paper explores whether NLI can be performed using only interpretable, graph-based representations of evidence. We introduce a fully graph-based pipeline where the classifier never directly processes the input text. Instead, sentences are decomposed into atomic propositions, converted into ConceptNet triples via constrained decoding, and represented as three graphs per pair: premise, hypothesis, and a retrieved ConceptNet subgraph. These graphs are then fed into a fine-tuned 0.8-billion-parameter language model. On the SNLI dataset, our pipeline achieves 89.7% accuracy, just 1.9 points below an identically trained text-based model. On ANLI, it matches the published performance of RoBERTa-large on rounds R2 and R3 (50% accuracy) but trails by 16 points on R1, resulting in an overall gap of 9 to 14 points compared to its text counterpart. We term this gap the price of interpretability and demonstrate that it stems from representational limitations rather than data constraints. Ablation studies further reveal that graphs and text are complementary: combining both modalities achieves 92.1% accuracy on SNLI.