When Language Models Lose Their Mind: The Consequences of Brain Misalignment

📄 arXiv: 2603.23091v1 📥 PDF

作者: Gabriele Merlin, Mariya Toneva

分类: cs.CL

发布日期: 2026-03-24

备注: Accepted at ICLR 2026

💡 一句话要点

研究表明：大脑对齐对语言模型的语言能力至关重要

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 大脑对齐 语言理解 神经表征 认知建模

📋 核心要点

  1. 现有研究对大脑对齐的LLM在认知建模和AI安全方面关注较多，但其对语言能力的影响尚不明确。
  2. 该研究通过构建大脑未对齐的LLM，并与大脑对齐的LLM对比，来评估大脑对齐对语言理解的特定影响。
  3. 实验结果表明，大脑未对齐会显著降低LLM在各种语言任务上的性能，突显了大脑对齐的重要性。

📝 摘要（中文）

虽然大脑对齐的大型语言模型（LLM）因其作为认知模型的潜力以及增强人工智能安全性和可信度的潜力而备受关注，但这种大脑对齐对于语言能力的作用仍然不确定。本文通过引入大脑未对齐模型来研究大脑对齐的功能影响——这些LLM经过专门训练，以较差地预测大脑活动，同时保持较高的语言建模性能。我们在涵盖语义、语法、语篇、推理和形态等不同语言领域的200多个下游任务上评估这些模型。通过将大脑未对齐模型与匹配良好的大脑对齐模型进行比较，我们分离出大脑对齐对语言理解的特定影响。我们的实验表明，大脑未对齐会显著损害下游性能，突显了大脑对齐在实现鲁棒语言能力方面的关键作用。这些发现强调了LLM中大脑对齐的重要性，并为神经表征和语言处理之间的关系提供了新的见解。

🔬 方法详解

问题定义：论文旨在研究大脑对齐对于大型语言模型（LLM）语言能力的影响。现有方法主要关注大脑对齐在认知建模和AI安全方面的潜力，而忽略了其对语言理解能力本身的影响。因此，现有研究无法明确大脑对齐在多大程度上影响了LLM的语言能力。

核心思路：论文的核心思路是通过构建“大脑未对齐”的LLM，并将其与“大脑对齐”的LLM进行对比，从而分离出大脑对齐对语言理解的特定影响。具体来说，作者训练了一组LLM，使其在保持较高语言建模性能的同时，尽可能差地预测大脑活动。通过比较这两组模型在各种下游语言任务上的表现，可以评估大脑对齐对语言能力的贡献。

技术框架：该研究的技术框架主要包括以下几个步骤：1) 构建大脑对齐和大脑未对齐的LLM。大脑对齐模型通过标准方法训练，旨在同时优化语言建模性能和大脑活动预测性能。大脑未对齐模型则通过对抗训练或其他方法，在优化语言建模性能的同时，最小化大脑活动预测性能。2) 在200多个下游语言任务上评估这些模型，这些任务涵盖语义、语法、语篇、推理和形态等不同语言领域。3) 对比大脑对齐和大脑未对齐模型在这些任务上的表现，分析大脑对齐对语言理解的影响。

关键创新：该研究的关键创新在于提出了“大脑未对齐”LLM的概念，并将其作为研究大脑对齐对语言能力影响的工具。通过主动构建大脑未对齐的模型，作者能够更清晰地分离出大脑对齐的特定贡献，避免了以往研究中可能存在的混淆因素。此外，该研究在大量且多样的下游任务上进行了评估，从而更全面地评估了大脑对齐对语言理解的影响。

关键设计：关于大脑未对齐模型的训练，具体的技术细节（如对抗训练的具体方法、损失函数的设计等）在摘要中没有详细说明，属于未知信息。但是，可以推测，关键的设计在于如何保证大脑未对齐模型在语言建模性能不下降的前提下，尽可能差地预测大脑活动。这可能涉及到设计特殊的损失函数，或者采用对抗训练等技术。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，大脑未对齐显著损害了LLM在200多个下游语言任务上的性能，涵盖语义、语法、语篇、推理和形态等不同领域。这表明大脑对齐在实现鲁棒的语言能力方面起着关键作用。具体的性能数据和提升幅度在摘要中没有给出，属于未知信息。

🎯 应用场景

该研究的成果可以应用于提升大型语言模型的语言理解能力，并为开发更安全、更可靠的人工智能系统提供指导。通过更好地理解大脑对齐在语言处理中的作用，可以设计出更有效的训练方法和模型架构，从而提高LLM在各种实际应用中的性能，例如机器翻译、文本摘要、对话系统等。此外，该研究也为神经科学和人工智能的交叉研究提供了新的思路。

📄 摘要（原文）

While brain-aligned large language models (LLMs) have garnered attention for their potential as cognitive models and for potential for enhanced safety and trustworthiness in AI, the role of this brain alignment for linguistic competence remains uncertain. In this work, we investigate the functional implications of brain alignment by introducing brain-misaligned models--LLMs intentionally trained to predict brain activity poorly while maintaining high language modeling performance. We evaluate these models on over 200 downstream tasks encompassing diverse linguistic domains, including semantics, syntax, discourse, reasoning, and morphology. By comparing brain-misaligned models with well-matched brain-aligned counterparts, we isolate the specific impact of brain alignment on language understanding. Our experiments reveal that brain misalignment substantially impairs downstream performance, highlighting the critical role of brain alignment in achieving robust linguistic competence. These findings underscore the importance of brain alignment in LLMs and offer novel insights into the relationship between neural representations and linguistic processing.