AI Alignment for Digital Democracy: Fairer Voters Representation against LLM Biases

📄 arXiv: 2610.32780v1 📥 PDF

作者: Yi Qi, Srijoni Majumdar, Evangelos Pournaras

分类: cs.CY, cs.AI

发布日期: 2026-10-23

💡 一句话要点

提出AI对齐方法以解决LLM偏见导致的选民代表性不公问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 人工智能对齐 数字民主 大型语言模型 群体偏见 选民代表性 公平性 政策决策

📋 核心要点

  1. 现有的LLM在选民模拟中存在显著的群体偏见，导致某些群体的代表性不足，影响决策的公平性。
  2. 论文提出通过去除特定人口统计信息来优化LLM的选民代表性，以减少模型的群体误差而不降低整体准确性。
  3. 实验结果显示，去除性别和教育信息显著降低了模型的群体误差，而常见的对齐策略未能有效改善这一问题，甚至可能加重偏差。

📝 摘要（中文）

随着人工智能在数字民主中的应用日益增加，选民模拟和决策过程中出现了不平等的代表性。大型语言模型（LLMs）在处理不同的提示和选民信息时表现出不同的偏差，导致某些群体的代表性不如其他群体。本文研究了LLM在选民模拟中的人口统计偏见，探讨了如何提高选民的公平代表性。通过对三次美国总统选举的分析，比较了闭源和开源LLM在不同选民特征下的表现，并测试了AI对齐策略的有效性。结果表明，去除性别信息可以将模型的最大群体误差降低22-42%，而去除教育信息则降低了64%。相反，去除自报种族信息却使平均群体误差增加超过40%。

🔬 方法详解

问题定义：本文旨在解决大型语言模型（LLMs）在选民模拟中存在的群体偏见问题，现有方法未能有效处理不同群体的代表性差异，导致某些群体的选民意见被忽视。

核心思路：通过分析不同人口统计特征对LLM表现的影响，提出去除特定信息（如性别和教育）以优化模型的选民代表性，从而减少群体误差。

技术框架：研究采用了对比分析的方法，使用三次美国总统选举的数据，比较闭源和开源LLM在不同选民特征下的表现，并测试多种AI对齐策略。

关键创新：最重要的创新在于识别并量化了去除特定人口统计信息对模型群体误差的影响，提出了一种新的优化策略，显著改善了选民的公平代表性。

关键设计：在实验中，去除性别和教育信息的设置显著降低了模型的群体误差，而去除自报种族信息则导致误差增加，表明不同特征对模型表现的影响差异。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，去除性别信息使模型的最大群体误差降低了22-42%，去除教育信息则降低了64%。相对而言，去除自报种族信息导致平均群体误差增加超过40%。这些结果表明，特定人口统计信息的去除对模型表现有显著影响，而常见的对齐策略未能有效改善群体误差，甚至可能加重偏差。

🎯 应用场景

该研究的潜在应用领域包括数字民主、选民模拟和政策决策等。通过优化LLM的选民代表性，可以提高决策过程的公平性和透明度，促进更广泛的社会参与。此外，研究结果可为未来的AI系统设计提供指导，确保其在处理社会问题时更加公正。

📄 摘要（原文）

AI representation is emerging in digital democracy, assisting in voter emulation and decision-making. Large language models (LLMs) behave differently depending on the model, the prompt context, and the voter information they receive, representing some groups more accurately than others and potentially making the emulation unfair to certain groups. We investigate demographic biases in LLM-emulated electorates: how accurately LLMs represent individual votes, whether some voter groups are represented more accurately than others, and whether AI alignment can reduce these disparities without sacrificing overall accuracy. Using three U.S. presidential elections, we compare a closed-source and an open-source LLM across voters' demographic features and test AI alignment strategies toward fairer voter representation. Removing gender from the voter profile reduces the largest group error of the models by 22-42%, and removing education reduces it by 64%, whereas removing self-reported race increases the mean group error by over 40%, all without lowering accuracy. Common alignment strategies, such as repeated queries or fairness instructions, do not reduce these errors and can double them.