Cited but Not Consulted: A Counterfactual Audit of Legal Chain-of-Thought Faithfulness
作者: Saisab Sadhu, Shreeyans Arora, Pratinav Seth
分类: cs.AI, cs.CL, cs.CY
发布日期: 2026-10-08
💡 一句话要点
提出法律链条思维的反事实审计方法以提高模型可信度
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 法律推理 大型语言模型 反事实审计 模型可信度 判决一致性 法律依据
📋 核心要点
- 现有大型语言模型在法律推理中，虽然能准确引用法律依据，但其判决对这些依据的依赖性却不一致，存在较大漏洞。
- 本文通过反事实审计方法，探讨法律依据对判决的真实影响，揭示模型在法律推理中的脆弱性。
- 实验结果显示，模型在命名法律依据时表现良好，但判决的变化却不如预期一致，反映出模型的潜在操控风险。
📝 摘要（中文）
大型语言模型越来越多地通过引用法律条款或先例来为法律决策提供理由，这被视为决策遵循这些依据的证据。本文直接测试了这一点：在固定案件事实的情况下，替换所引用的法律依据为无关的依据，并解码模型隐藏状态中的判决演变。研究发现，在明确要求模型通过命名法律依据来证明判决时，模型在66.7%-100%的生成中命名了正确的依据，而当依据变化时，判决变化的情况则远不一致：在CaseHOLD上为0.0%-21.7%，在ECHR和SCOTUS上为30.0%-76.7%，在ContractNLI上为43.3%-50.0%。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在法律推理中对法律依据的依赖性评估不足的问题，现有方法未能有效验证模型生成判决的可靠性和一致性。
核心思路：通过反事实审计的方法，固定案件事实并替换法律依据，观察模型判决的变化，从而评估法律依据对判决的真实影响。
技术框架：研究采用了七个开放权重模型（8B-70B）和四个基准测试，涵盖司法和合同推理，分析模型在不同情况下的表现。
关键创新：提出了通过替换法律依据来审计模型判决的有效性，这一方法揭示了模型在法律推理中的脆弱性，与传统的依赖于生成文本的评估方法本质不同。
关键设计：在实验中，使用了多种模型和基准，设计了针对性强的评估标准，确保了结果的可靠性，并排除了提示词噪声和混淆采样的影响。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在要求模型命名法律依据时，正确率高达66.7%-100%；然而，判决在依据变化时的一致性却低至0.0%-76.7%，显示出模型在法律推理中的脆弱性和对操控的敏感性。
🎯 应用场景
该研究的潜在应用领域包括法律合规性审查、法律文书生成和法律决策支持系统。通过提高模型在法律推理中的可信度，可以为法律专业人士提供更可靠的工具，减少法律风险，提升法律服务的效率与准确性。
📄 摘要（原文）
Large language models increasingly justify legal decisions by naming the statute or precedent behind a verdict, treated as evidence that the decision follows from it. We test this directly: holding case facts fixed, we substitute the named legal authority for an unrelated one and decode a model's evolving verdict from its hidden states. Across seven open-weight models (8B-70B) and four benchmarks spanning judicial and contractual reasoning, when explicitly required to justify a verdict by naming the governing authority, models name the correct one in 66.7%-100% of generations, while the verdict changing when the authority changes is far less consistent: 0.0%-21.7% on CaseHOLD, 30.0%-76.7% on ECHR and SCOTUS, and 43.3%-50.0% on ContractNLI. Neither scale nor a purpose-built legal-reasoning model (a best-effort LoRA reproduction; Section 6) closes this gap. A red-teaming evaluation on five core models finds compliance with an adversarial instruction hidden in the case facts (73.3%-96.4%) exceeds verdict-swap sensitivity by a wide margin, holding without exception across model rankings. Naming a legal authority is thus a poor proxy for a verdict's dependence on it, while the same verdict remains separately vulnerable to adversarial manipulation. Both findings replicate across checks ruling out prompt-wording noise and confounded sampling, and bear directly on the use of generated legal explanations as compliance or audit artefacts.