Language-model groups overstate consensus when replaying human deliberation on a reasoning task
作者: Tengfei Shao
分类: cs.AI, cs.CL, cs.CY, cs.MA
发布日期: 2026-09-17
备注: 37 pages, 4 figures. Preregistration: https://osf.io/5jp7s . Code and data: https://doi.org/10.5281/zenodo.21318346
💡 一句话要点
提出基于语言模型的群体共识评估方法以解决人类推理任务的偏差问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 集体认知 语言模型 推理任务 共识评估 人机协作 心理学 社会科学
📋 核心要点
- 现有方法在评估集体认知时，常常忽视参与度和最终状态的操作化，导致共识率的偏差。
- 本文通过重播人类讨论并与LLM代理组进行比较，提出了一种新的共识评估方法，旨在减少测量不对称性。
- 实验结果表明，LLM代理组在共识上显著高于人类组，且这种差异在多种分析中保持一致，揭示了模拟共识与集体准确性之间的脱节。
📝 摘要（中文）
全共识率常被视为集体认知的指标，但其依赖于参与和最终状态的操作化。本文重播了100组人类Wason任务的讨论，使用匹配的大型语言模型（LLM）代理组，分析了代理和人类在共识上的差异。结果显示，代理组在多种比较中表现出更高的共识率，且这种差异在不同的敏感性分析中依然存在。这些分析为评估模拟群体对人类讨论结果的估计提供了明确的评分基础。
🔬 方法详解
问题定义：本文旨在解决在推理任务中，现有方法对人类群体共识的评估存在偏差的问题，尤其是如何准确操作化参与和最终状态。
核心思路：通过重播人类Wason任务的讨论，使用与人类参与者相匹配的LLM代理组，分析其在共识率上的表现，以此评估模拟群体的准确性。
技术框架：研究首先重播100组人类讨论，接着与LLM代理组进行比较，采用两种敏感性分析方法（提交基础和参与匹配）来评估共识率的差异。
关键创新：本研究的创新在于提出了一种评分明确的框架，能够有效评估模拟群体对人类讨论结果的估计，揭示了代理组与人类组之间的共识差异。
关键设计：在实验中，采用了信念锚定的代理设计，确保每个代理的初始信念与人类参与者的讨论答案相匹配，使用相同的评分代码来评估代理和人类的表现。实验还考虑了不同的比较方法，以减少测量不对称性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，LLM代理组在共识率上显著高于人类组，提交基础比较中，聊天模式和推理模式的差距分别为34.0和43.9个百分点，参与匹配比较中差距为34.1和44.4个百分点。这表明模拟共识并未反映集体准确性，且代理组对人类结果的估计存在偏差。
🎯 应用场景
该研究的潜在应用领域包括心理学、社会科学和人工智能领域，尤其是在理解人类决策过程和群体行为方面。通过更准确地评估群体共识，可以为设计更有效的决策支持系统提供理论基础，未来可能影响人机协作的研究与实践。
📄 摘要（原文）
Full-consensus rates are often treated as indicators of collective cognition, yet depend on how participation and final states are operationalized. We replayed 100 held-out human Wason groups with matched large language model (LLM) agent groups, seeding one belief-anchored agent per participant's pre-discussion answer and scoring agents and people with the same code. Across human scoring definitions, estimates ranged from 24.0% to 57.0%; about one fifth of participants never posted, whereas agents almost always did. Agent groups remained more consensual in two post-unblinding sensitivity analyses: the submit-based comparison (n = 98) yielded gaps of 34.0 and 43.9 percentage points for chat and reasoning modes, and the participation-matched comparison (n = 45) yielded gaps of 34.1 and 44.4 points. These complementary routes reduced different measurement asymmetries yet converged within 0.5 percentage points. The gap persisted without early stopping and under a reparameterization removing the memorizable answer; reasoning-mode groups then agreed nearly unanimously, mostly on incorrect answers. Simulated consensus did not track collective accuracy, and belief-anchored agent groups were biased estimators of the human group-outcome distribution in this setting. These analyses provide a scoring-explicit basis for assessing simulated-group estimates of human deliberative outcomes.