Cognitive Map in Large Language Models
作者: Albert Qin, Jonathan Cohen, Gautam Reddy
分类: cs.CL, cs.LG
发布日期: 2026-10-19
💡 一句话要点
提出认知地图模型以增强大语言模型的推理能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 认知地图 大语言模型 关系推理 虚假记忆 内部激活 智能推理 自然语言处理
📋 核心要点
- 现有的大语言模型在推理和关系理解方面存在局限，尤其是在处理未表述的关系时。
- 论文提出了一种通过操控内部激活来测试语言模型是否形成认知地图的思路，利用关系推理任务进行验证。
- 实验结果表明，模型能够成功推断和概括关系结构，且通过稀疏键值对实现了对实体的有效绑定。
📝 摘要（中文）
长期以来，动物被认为构建认知地图以支持在新环境中的灵活行为。我们测试了大型语言模型是否形成类似的表征，采用关系推理任务和因果“马赛克实验”，操控开放权重语言模型的内部激活。超过十亿参数规模的模型成功推断实体之间未表述的关系，并对合成实体名称进行了概括。在模型和任务系列中，模型生成了关系结构的抽象表征，并将其与实体身份的表征进行加法组合，将实体绑定到该结构中的角色。模型将观察到的关系存储为成对链接，并在查询时回顾性地组合，而不是前瞻性地将每个实体定位在全局坐标系统中。绑定是通过稀疏、分布式的键值对介导的；通过扰动这些对，我们植入了“虚假记忆”，以可预测的方式改变模型行为。总体而言，我们的发现揭示了一种类似于认知地图的内部组织，解释了语言模型如何在有限信息下进行推理。
🔬 方法详解
问题定义：本论文旨在探讨大型语言模型是否能够形成类似于动物认知地图的内部表征，以支持灵活的推理和行为。现有方法在处理复杂关系和未表述信息时存在不足，限制了模型的推理能力。
核心思路：论文的核心思路是通过关系推理任务和因果实验，操控模型的内部激活，验证模型是否能够生成抽象的关系结构表征，并将其与实体身份结合。
技术框架：整体架构包括关系推理任务的设计、内部激活的操控以及模型的查询机制。主要模块包括关系结构生成、实体身份绑定和虚假记忆植入。
关键创新：最重要的技术创新点在于通过稀疏、分布式的键值对实现实体与角色的绑定，并通过扰动这些对来植入虚假记忆，从而改变模型的行为。这与传统的全局坐标系统方法有本质区别。
关键设计：在模型设计中，采用了开放权重的语言模型，设置了特定的损失函数以优化关系推理能力，并通过实验验证了不同参数设置对模型性能的影响。
🖼️ 关键图片
📊 实验亮点
实验结果显示，超过十亿参数的模型能够成功推断未表述的关系，并对合成实体名称进行概括，表现出显著的推理能力。通过操控内部激活，模型在处理复杂关系时的表现得到了显著提升，验证了认知地图的有效性。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、智能对话系统和机器人导航等。通过增强语言模型的推理能力，可以在复杂环境中实现更灵活的决策和行为，未来可能对人机交互和自动化系统产生深远影响。
📄 摘要（原文）
It has long been proposed that animals construct cognitive maps to support flexible behavior in novel environments. We tested whether large language models form similar representations using relational reasoning tasks and causal "mosaic experiments" that manipulate internal activations in open-weight language models. Models beyond the ten-billion-parameter scale successfully inferred unstated relationships between entities and generalized to synthetic entity names. Across model and task families, models generated abstract representations of relational structure and combined them additively with representations of entity identity, binding entities to roles within that structure. Models stored observed relationships as pairwise links that they composed retrospectively when queried, rather than prospectively positioning each entity in a global coordinate system. Binding was mediated by a sparse, distributed set of key--value pairs; by perturbing these pairs, we implanted "false memories" that altered model behavior in predictable ways. Overall, our findings reveal an internal organization analogous to a cognitive map that explains how language models reason with limited information.