When Noise Fabricates Bias: The Fragility of LLM-as-a-Judge Bias Measurement under Noisy Text

📄 arXiv: 2609.11067v1 📥 PDF

作者: DongHyun Ryu, Jaehyeok Lee, YeongJun Hwang, JinYeong Bak

分类: cs.CL, cs.LG

发布日期: 2026-09-10

备注: 15 pages, 4 figures. Accepted at W-NUT 2026. Code: https://github.com/dong4918-skku/Fable

💡 一句话要点

揭示噪声对大语言模型偏见测量的影响

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 偏见测量 文本噪声 社会偏见 机器学习 实验研究 公平性

📋 核心要点

  1. 现有方法在处理含有噪声的文本时，偏见测量的准确性存在显著挑战，尤其是中立与偏见判断的转化。
  2. 论文通过对噪声文本施加多种强度的噪声，系统性地分析了噪声对偏见测量的影响，揭示了偏见判断的不对称性。
  3. 实验结果显示，噪声文本的偏见测量被高估，尤其在公平性关键类别中，偏见判断的转化率高达120倍。

📝 摘要（中文）

随着大语言模型（LLM）在文本偏见测量中的应用日益增加，文本中的噪声（如错别字、非正式拼写和标点符号错误）对偏见测量的影响尚不明确。本文通过对3822个与刻板印象相关的响应施加五种不同强度的噪声条件，比较了噪声文本与原始文本的偏见判断。研究发现，表面噪声并不会对偏见测量造成对称性降级，反而更容易将中立判断转变为偏见判断，最高可达120倍。此外，在四个LLM评判者中，最脆弱的评判者在轻微噪声条件下表现出最纯粹的失真，随着评判者的稳健性增强，失真趋向于平衡而非反转。因此，基于噪声文本的偏见测量系统性地被高估，尤其是在公平性最重要的类别中。

🔬 方法详解

问题定义：本文旨在探讨噪声文本对大语言模型在偏见测量中的影响，现有方法未能充分考虑文本中的表面噪声如何影响偏见判断的准确性。

核心思路：通过对3822个与刻板印象相关的文本施加五种不同强度的噪声，比较噪声文本与原始文本的偏见判断，以揭示噪声对偏见测量的非对称影响。

技术框架：研究采用了实验设计的方法，首先生成含有不同噪声强度的文本，然后使用四个不同的LLM评判者对这些文本进行偏见判断，最后分析结果的差异。

关键创新：本研究的主要创新在于揭示了噪声对偏见测量的非对称影响，特别是中立判断转变为偏见判断的可能性远高于反向转化。

关键设计：实验中设置了多种噪声类型和强度，评判者的选择也考虑了其稳健性，以确保结果的可靠性和可重复性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，噪声文本的偏见测量被系统性高估，尤其在重要的公平性类别中，偏见判断的转化率高达120倍。这一发现强调了在使用大语言模型进行偏见测量时，需谨慎处理文本噪声。

🎯 应用场景

该研究的结果对社会科学、法律和人工智能伦理等领域具有重要的应用价值。通过理解噪声对偏见测量的影响，可以改进大语言模型在实际应用中的偏见检测能力，从而促进更公平的决策过程。

📄 摘要（原文）

Large language models are increasingly used as judges to measure social bias in text, yet the passages they judge are often noisy, containing typos, informal spelling, and broken punctuation. The consequences of such surface noise for social bias measurement remain unclear. To investigate this question, we apply five realistic noise conditions at multiple intensity levels to 3,822 stereotype-related responses and compare the resulting bias judgments with those on the original text. We find that such surface noise does not degrade bias measurement symmetrically: it is far more likely to turn neutral judgments into biased ones than biased judgments into neutral ones, by up to a 120x margin. We further observe two non-obvious effects across four LLM judges: in the most fragile judge the distortion is at its purest at mild, realistic noise levels, where erasure is scarcest, and as judges grow robust it attenuates toward parity rather than reversing. Bias measured on noisy text is therefore systematically overestimated, most in the categories that matter most for fairness.