Rankers, Judges, and Assistants: Towards Understanding the Interplay of LLMs in Information Retrieval Evaluation

📄 arXiv: 2503.19092v2 📥 PDF

作者: Krisztian Balog, Donald Metzler, Zhen Qin

分类: cs.IR, cs.AI, cs.CL

发布日期: 2025-03-24 (更新: 2025-07-09)

备注: Proceedings of the 48th International ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR '25)

DOI: 10.1145/3726302.3730348

💡 一句话要点

揭示LLM在信息检索评估中的相互影响：排序器、评判器与助手

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 信息检索评估 排序器 评判器 偏见分析 AI辅助内容创作 实验研究

📋 核心要点

  1. 现有信息检索评估方法依赖人工或传统指标，难以适应LLM排序器带来的复杂性，可能引入偏差。
  2. 该研究通过实验分析LLM排序器、评判器和助手之间的相互影响，揭示潜在的评估偏差来源。
  3. 实验表明LLM评判器对LLM排序器存在偏见，且难以区分细微性能差异，但未发现对AI生成内容的偏见。

📝 摘要（中文）

大型语言模型（LLM）在信息检索（IR）中正变得不可或缺，为排序、评估和AI辅助内容创作提供动力。这种广泛应用需要对这些基于LLM的组件之间相互作用可能产生的偏差进行严格审查。本文综合了现有研究，并提出了新的实验设计，探讨了基于LLM的排序器和助手如何影响基于LLM的评判器。我们首次提供了经验证据，表明LLM评判器对基于LLM的排序器表现出显著的偏见。此外，我们观察到LLM评判器在辨别细微的系统性能差异方面存在局限性。与之前的一些发现相反，我们的初步研究没有发现针对AI生成内容的偏见证据。这些结果突出了需要对LLM驱动的信息生态系统进行更全面的审视。为此，我们提供了初步指南和一个研究议程，以确保LLM在IR评估中的可靠使用。

🔬 方法详解

问题定义：论文旨在解决信息检索评估中，由于大规模语言模型（LLM）的广泛应用而产生的潜在偏差问题。现有评估方法，如人工评估或传统指标，可能无法准确反映LLM排序器的性能，并且可能受到LLM评判器自身偏见的影响。因此，需要深入理解LLM排序器、评判器和助手之间的相互作用，以确保评估的可靠性。

核心思路：论文的核心思路是通过设计实验来探究LLM排序器和助手如何影响LLM评判器。通过控制实验变量，例如排序器的类型（LLM vs. 非LLM）、助手的使用与否，以及评判器的选择，来量化LLM评判器对不同排序器和生成内容的偏见程度。

技术框架：该研究采用实验驱动的方法。首先，使用不同的排序器（包括基于LLM和非LLM的排序器）对查询进行排序。然后，使用LLM评判器对排序结果进行评估。在某些实验中，引入LLM助手来辅助内容生成或修改。最后，分析LLM评判器的评估结果，以确定是否存在对特定排序器或生成内容的偏见。

关键创新：该研究的主要创新在于首次提供了经验证据，表明LLM评判器对LLM排序器存在显著的偏见。此外，该研究还观察到LLM评判器在辨别细微的系统性能差异方面存在局限性。这些发现挑战了当前对LLM在信息检索评估中作用的认知。

关键设计：实验设计包括：1) 对比LLM排序器和非LLM排序器的评估结果，以确定LLM评判器是否对LLM排序器存在偏见；2) 使用LLM助手生成或修改文档，以评估LLM评判器是否对AI生成内容存在偏见；3) 改变LLM评判器的选择，以评估不同LLM评判器之间的评估一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，LLM评判器对LLM排序器存在显著偏见，这表明在评估LLM排序器时需要谨慎使用LLM评判器。此外，LLM评判器在区分细微的系统性能差异方面存在局限性，这意味着需要更精细的评估方法来准确评估LLM排序器的性能。初步研究未发现对AI生成内容的偏见。

🎯 应用场景

该研究成果可应用于信息检索系统开发、评估和优化。通过了解LLM在评估中的偏见，可以设计更公平、更可靠的评估方法，从而促进更有效的LLM排序器的开发。此外，该研究还可以指导AI辅助内容创作，避免因评估偏差而导致的不良结果。

📄 摘要（原文）

Large language models (LLMs) are increasingly integral to information retrieval (IR), powering ranking, evaluation, and AI-assisted content creation. This widespread adoption necessitates a critical examination of potential biases arising from the interplay between these LLM-based components. This paper synthesizes existing research and presents novel experiment designs that explore how LLM-based rankers and assistants influence LLM-based judges. We provide the first empirical evidence of LLM judges exhibiting significant bias towards LLM-based rankers. Furthermore, we observe limitations in LLM judges' ability to discern subtle system performance differences. Contrary to some previous findings, our preliminary study does not find evidence of bias against AI-generated content. These results highlight the need for a more holistic view of the LLM-driven information ecosystem. To this end, we offer initial guidelines and a research agenda to ensure the reliable use of LLMs in IR evaluation.