PRISM: Calibrating Black-Box Judges with Counterfactual Probes

📄 arXiv: 2610.18389v1 📥 PDF

作者: Kakei Yamamoto, So Kuroki

分类: cs.LG, cs.AI, cs.CL

发布日期: 2026-10-13

💡 一句话要点

提出PRISM以校准黑箱评估者的评分偏差问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 评分校准 大型语言模型 探针技术 岭回归 自动评估

📋 核心要点

  1. 现有的大型语言模型在评估任务中表现出与人类评分不一致的问题，导致评估结果的可靠性下降。
  2. PRISM通过探针技术测量评分变化，利用岭回归校正隐性评分偏差，提出了一种无标准评分的评估协议。
  3. 在SummEval和HANNA的主要比较中，PRISM显著提高了与人类排名的一致性，且与基于标准的方法竞争力强。

📝 摘要（中文）

随着大型语言模型在评估中的应用日益增加，它们的评分往往与人类评判存在系统性不一致。本文提出PRISM（基于探针的评分偏差推断），通过固定评估内容并测量在强调或弱化属性时的评分变化，来校正评估者的隐性评分偏差。该方法使用人类标签进行岭回归学习，生成无评分标准的评分协议，显著提高了与人类排名的一致性，并在SummEval和HANNA评估中表现出色。

🔬 方法详解

问题定义：本文旨在解决大型语言模型作为评估者时与人类评分不一致的问题。现有方法缺乏有效的校准机制，导致评分的可靠性和有效性受到影响。

核心思路：PRISM的核心思路是通过探针技术，固定评估内容并测量在不同属性强调下的评分变化，从而校正评估者的隐性评分偏差。这样的设计能够有效捕捉评分的局部敏感性。

技术框架：PRISM的整体架构包括三个主要模块：首先，固定评估内容并引入探针以测量评分变化；其次，利用局部敏感性模型将这些响应表示为替代雅可比矩阵；最后，通过岭回归学习人类标签以校正基线评分。

关键创新：PRISM的主要创新在于其无标准评分的协议，能够在不依赖于传统评分标准的情况下，显著提高评分的一致性。这与现有方法的本质区别在于其不需要逐项评分，而是通过整体评分进行校准。

关键设计：在参数设置上，PRISM采用岭回归以防止过拟合，并通过学习的系数揭示不同评估者之间的共同和对立的校正方向。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，PRISM及其学习基线变体在SummEval和HANNA评估中显著提高了与人类排名的一致性，相较于未校准的评分，提升幅度明显，且在与基于标准的方法比较中保持竞争力。

🎯 应用场景

该研究的潜在应用领域包括自动化内容评估、机器翻译质量评估和文本生成质量控制等。通过提高评分的一致性和可靠性，PRISM可以为各类需要评估的AI系统提供更为准确的反馈，进而提升其性能和用户体验。

📄 摘要（原文）

Large language models are increasingly used as judges to reduce reliance on costly human evaluation, yet their scores can systematically disagree with human judgments. We ask whether responses to an explicitly imposed evaluative bias can help correct a judge's implicit scoring biases. We introduce PRISM (Probe-based Residual Inference of Scoring Misalignment), which holds the evaluated content fixed and measures score changes when attributes are emphasized or de-emphasized. A local sensitivity model motivates representing these responses as a surrogate Jacobian. Ridge regression on human labels learns a correction to the baseline score. The resulting scoring protocol is rubric-free: it uses overall scores without requesting criterion-level ratings. In the main Jev and Sol comparisons on SummEval summarization and HANNA story evaluation, PRISM and its learned-baseline variant significantly improve agreement with human rankings over uncalibrated scores while remaining competitive with rubric-based methods. A controlled SummEval comparison yields similar agreement for rubric-derived quality probes and style probes, supporting calibration without reproducing rubric criteria. The learned coefficients reveal shared and opposing correction directions across judges.