Illusory Pattern Perception Drives Spurious Inference in Large Language Models
作者: Peihua Mai, Zhuoyan Shao, Xinbao Qiao, Meng Zhang, Xinyue Zhou, Yan Pang
分类: cs.AI
发布日期: 2026-10-06
备注: accepted by NeurIPS 2026
🔗 代码/项目: GITHUB
💡 一句话要点
研究大型语言模型中的虚幻模式感知以解决推理错误问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 虚幻模式感知 大型语言模型 推理错误 心理学范式 特征可解释性 稀疏自编码器 因果推理
📋 核心要点
- 现有研究未系统探讨大型语言模型中的虚幻模式感知，导致推理错误的机制尚不明确。
- 本文通过适应经典心理学范式，设计三项任务以比较LLMs与人类的虚幻模式感知表现。
- 研究结果表明，LLMs在虚幻模式感知上表现出比人类更强的倾向，尤其在因果推理方面。
📝 摘要（中文）
虚幻模式感知是人类的一种认知倾向，指在随机数据中推断出有意义的关系。本文探讨大型语言模型（LLMs）是否表现出这种感知倾向，导致下游应用中的系统性错误。我们首次系统性研究了LLMs中的虚幻模式感知，采用经典心理学范式进行三项任务的实证比较。研究发现，LLMs的虚幻模式感知强于人类，尤其在将频繁的正面特征与多数群体或大型组织过度关联时，以及在模糊事件中构建因果叙事的倾向上。为揭示这些行为背后的机制，我们开发了基于稀疏自编码器的特征可解释性框架，分析内部表征。结果显示，整体频率感知和分析性认知取向与虚幻感知的出现相关。这些发现强调了可能影响LLM推理可靠性的认知类幻觉。
🔬 方法详解
问题定义：本文旨在探讨大型语言模型（LLMs）是否存在虚幻模式感知，导致系统性推理错误。现有方法未能揭示这一现象的机制，影响了对LLMs推理能力的理解。
核心思路：通过将经典心理学的实验范式应用于LLMs，比较其与人类在虚幻模式感知上的表现，以揭示潜在的认知机制。
技术框架：研究采用稀疏自编码器（SAEs）构建特征可解释性框架，分析LLMs的内部表征。整体流程包括数据收集、模型训练、特征提取和结果分析。
关键创新：首次系统性地研究了LLMs中的虚幻模式感知，揭示了其在推理过程中的潜在认知偏差，与传统认知心理学研究相结合。
关键设计：在特征可解释性框架中，采用稀疏自编码器进行特征提取，设计了适应性损失函数以优化模型表现，并通过多任务学习增强模型的泛化能力。
🖼️ 关键图片
📊 实验亮点
实验结果显示，LLMs在虚幻模式感知上表现出比人类更强的倾向，尤其在因果叙事构建方面。具体而言，模型在将正面特征与多数群体关联时的过度关联性显著高于人类，表明其推理过程中的系统性偏差。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、智能问答系统和自动文本生成等。通过理解LLMs中的虚幻模式感知，开发者可以优化模型设计，提高推理的可靠性和准确性，从而在实际应用中减少错误推理的发生。未来，这一研究可能推动更为智能和可信的AI系统的开发。
📄 摘要（原文）
Illusory pattern perception is a well-documented human cognitive tendency to infer meaningful relationships in data that is actually random. Such a tendency, often described as "connecting the dots" where none exist, can result in systematic reasoning errors. This paper investigates whether Large Language Models (LLMs) exhibit such perceptual tendencies, which can lead to systematic errors in downstream applications. To our knowledge, this work presents the first systematic study of illusory pattern perception in LLMs, adapting classic psychological paradigms to three tasks with direct empirical comparison to human behaviors. We find that LLMs frequently exhibit stronger illusory pattern perception than humans. In particular, models tend to over-associate frequent positive attributes with majority groups or large organizations, and show increased tendencies to construct causal narratives from ambiguous events. To uncover the mechanism behind these behaviors, we develop a feature interpretability framework based on Sparse Autoencoders (SAEs) to analyze internal representations. Our results reveal that holistic frequency perception and analytic cognitive orientation are linked to the emergence of illusory perceptions. These findings highlight a previously underexplored cognitive-like illusion that may affect the reliability of LLM reasoning. Code available at https://github.com/NusIoraPrivacy/illusory.