Deflecting the Value Compass: Interacting with Large Language Models Temporarily Shifts Human Value Priorities Toward Personal Focus

📄 arXiv: 2609.25586v1 📥 PDF

作者: Hasibur Rahman, Malak Sadek, Smit Desai

分类: cs.HC, cs.AI

发布日期: 2026-09-22

💡 一句话要点

探讨与大型语言模型互动对人类价值观的影响

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 价值观 人机交互 决策支持 心理学研究

📋 核心要点

  1. 现有研究对大型语言模型与用户互动后，价值观优先级的变化缺乏深入探讨，尤其是在价值冲突的决策场景中。
  2. 本研究通过让参与者与大型语言模型互动，探索其对价值观优先级的影响，特别是如何增强个人关注的价值。
  3. 实验结果表明，短暂的LLM互动能够有效地改变参与者的价值观优先级，尤其是自我提升的倾向显著增强。

📝 摘要（中文）

大型语言模型在支持价值冲突决策方面的应用日益增多，但与其互动是否会改变用户的价值优先级尚不明确。本研究通过对200名美国成年人进行预注册实验，探讨了与ChatGPT、Claude或Gemini作为思维伙伴的互动，或阅读固定的AI生成考虑的影响。结果显示，与LLM的互动暂时将价值优先级向个人关注转移，主要通过增强自我提升的方式实现。参与者的建议保留了与LLM交流的词汇和意义，因此，短暂的LLM互动能够在判断过程中重新定位活跃的价值观，而不会导致价值方向或建议的明显趋同。

🔬 方法详解

问题定义：本研究旨在探讨与大型语言模型（LLM）互动是否会改变用户在决策时的价值观优先级。现有方法未能充分揭示这种互动对价值观的潜在影响，尤其是在价值冲突的情况下。

核心思路：研究通过设计实验，让参与者与LLM进行互动，观察其对价值观的影响。LLM被要求支持推理而不推荐决策，从而避免直接影响参与者的价值观。

技术框架：整体实验设计包括三个阶段：首先，参与者填写价值观问卷；其次，与LLM进行互动；最后，再次填写问卷以评估价值观的变化。主要模块包括LLM的选择、互动内容的设计及问卷的评估。

关键创新：本研究的创新点在于揭示了短暂的LLM互动能够在不直接针对价值观的情况下，重新定位参与者的价值观优先级。这与传统的价值观影响研究有所不同，后者通常关注直接的说服策略。

关键设计：实验中使用了预注册的设计，确保了结果的可靠性。参与者在互动前后填写了平行的价值观问卷（PVQ-RR），以量化价值观的变化。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，与LLM的互动使参与者的价值观优先级向个人关注转移，效应大小在0.37至0.51之间，主要通过增强自我提升的倾向实现。这一发现表明，短暂的LLM互动能够有效地影响用户的价值观，而不导致明显的价值趋同。

🎯 应用场景

该研究的结果对理解大型语言模型在决策支持中的作用具有重要意义，尤其是在涉及复杂价值观的场景中。未来，这一发现可以应用于教育、心理咨询及人机交互等领域，帮助设计更有效的决策支持系统。

📄 摘要（原文）

Large language models increasingly support decisions where values are in tension, yet little is known about whether interacting with them changes which values users prioritize. In a preregistered study, 200 U.S. adults interacted with ChatGPT, Claude, or Gemini as a thinking partner or read fixed AI-generated considerations. The prompt asked LLMs to support reasoning without recommending a decision and named no values. Participants advised people facing real dilemmas and completed parallel PVQ-RR forms before, immediately after, and one task later. Each LLM condition temporarily shifted value priorities toward personal focus relative to the control (d=0.37-0.51), primarily through increased Self-Enhancement. Participants' advice retained words and meaning from their exchanges. Thus, a brief LLM interaction that neither targets values nor seeks to persuade can reorient values active during judgment without detectable convergence in value directions or advice.