The Impact of Disability Disclosure on Fairness and Bias in LLM-Driven Candidate Selection

📄 arXiv: 2506.00256v1 📥 PDF

作者: Mahammed Kamruzzaman, Gene Louis Kim

分类: cs.CL

发布日期: 2025-05-30

备注: Accepted at The 38th International FLAIRS Conference (FLAIRS 2025)(main)

💡 一句话要点

研究揭示LLM驱动的候选人筛选中，残疾披露信息对公平性和偏见的影响

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 算法偏见 招聘公平性 残疾歧视 候选人筛选

📋 核心要点

  1. 现有研究较少关注自愿披露的残疾信息对LLM驱动的招聘流程的影响，这可能导致算法偏见。
  2. 该研究通过控制其他变量，考察了LLM在候选人筛选中对残疾披露信息的敏感性，揭示潜在的偏见。
  3. 实验结果表明，LLM在候选人筛选中存在对未披露或披露残疾信息的候选人的偏见，即使他们的资历相当。

📝 摘要（中文）

随着大型语言模型（LLM）日益融入招聘流程，公平性问题日益突出。公司在招聘时通常会要求/需要包括性别、种族、残疾或退伍军人身份等人口统计信息。收集这些数据是为了支持多元化和包容性举措，但当提供给LLM时，特别是与残疾相关的信息，会引发候选人选择结果中潜在偏见的担忧。许多研究强调了残疾如何影响简历筛选，但很少有研究探讨自愿披露信息对LLM驱动的候选人选择的具体影响。本研究旨在弥合这一差距。当候选人在性别、种族、资格、经验和背景方面完全相同，并且寻求残疾人和非残疾人之间就业率差距最小的工作（例如，收银员、软件开发人员）时，LLM始终偏爱那些披露自己没有残疾的候选人。即使在候选人选择不披露其残疾状况的情况下，与明确声明自己没有残疾的人相比，LLM选择他们的可能性也较低。

🔬 方法详解

问题定义：论文旨在研究在LLM驱动的候选人筛选过程中，候选人自愿披露的残疾信息是否会引入偏见，并影响最终的筛选结果。现有方法缺乏对这一特定因素的深入分析，可能导致LLM在招聘中做出不公平的决策。

核心思路：论文的核心思路是通过控制候选人的其他关键特征（如性别、种族、资格、经验等），仅改变是否披露残疾信息，来观察LLM在筛选过程中的行为。这种方法能够隔离残疾披露信息对LLM决策的影响，从而揭示潜在的偏见。

技术框架：研究采用实验方法，构建了一系列具有相同资历和背景的候选人简历，唯一的区别在于是否披露残疾信息。然后，将这些简历输入到LLM中进行筛选，并分析LLM的选择结果。通过统计分析，比较不同残疾披露状态的候选人被选中的概率，从而评估LLM是否存在偏见。

关键创新：该研究的关键创新在于其关注点——自愿披露的残疾信息对LLM招聘的影响。以往研究更多关注其他因素，而该研究直接针对残疾披露这一敏感信息，并采用控制变量的方法，更清晰地揭示了LLM的潜在偏见。

关键设计：研究的关键设计包括：1) 精心设计的候选人简历，确保除了残疾披露信息外，其他特征完全相同；2) 选择就业率差距较小的职业，以减少职业本身对结果的影响；3) 统计分析方法，用于量化LLM对不同残疾披露状态候选人的选择概率差异。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

研究发现，即使候选人在其他方面完全相同，LLM始终偏爱那些明确声明自己没有残疾的候选人。更令人担忧的是，即使候选人选择不披露残疾状况，他们被LLM选中的可能性也低于明确声明自己没有残疾的人。这些结果表明，LLM在处理残疾信息时存在显著的偏见。

🎯 应用场景

该研究结果可应用于改进LLM驱动的招聘系统，减少算法偏见，提高招聘过程的公平性。企业可以利用这些发现来调整其LLM的使用策略，并采取措施确保残疾人在招聘过程中获得公平对待。此外，该研究也为未来的算法公平性研究提供了参考。

📄 摘要（原文）

As large language models (LLMs) become increasingly integrated into hiring processes, concerns about fairness have gained prominence. When applying for jobs, companies often request/require demographic information, including gender, race, and disability or veteran status. This data is collected to support diversity and inclusion initiatives, but when provided to LLMs, especially disability-related information, it raises concerns about potential biases in candidate selection outcomes. Many studies have highlighted how disability can impact CV screening, yet little research has explored the specific effect of voluntarily disclosed information on LLM-driven candidate selection. This study seeks to bridge that gap. When candidates shared identical gender, race, qualifications, experience, and backgrounds, and sought jobs with minimal employment rate gaps between individuals with and without disabilities (e.g., Cashier, Software Developer), LLMs consistently favored candidates who disclosed that they had no disability. Even in cases where candidates chose not to disclose their disability status, the LLMs were less likely to select them compared to those who explicitly stated they did not have a disability.