Cognitive maps are generative programs
作者: Marta Kryven, Cole Wyeth, Aidan Curtis, Kevin Ellis
分类: cs.AI, cs.ET
发布日期: 2025-04-29
备注: 9 pages, 4 figures, to be published in Cognitive Sciences Society proceedings
💡 一句话要点
提出基于生成程序的认知地图模型，提升具身智能体在结构化环境中的规划效率。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 认知地图 生成程序 具身智能 资源高效规划 大型语言模型
📋 核心要点
- 现有认知地图构建方法在资源受限情况下效率低，难以有效利用环境中的结构化信息。
- 提出将认知地图建模为生成程序，利用环境的可预测性和冗余性，实现资源高效的规划。
- 实验表明，该模型在结构化环境中能更好地预测人类行为，并显著提升计算效率和降低内存需求。
📝 摘要（中文）
理解世界并采取行动依赖于构建简化的心理表征，从而抽象出现实的各个方面。认知地图的这一原则对于资源有限的智能体是通用的。生物、人类和算法都面临着在各种计算约束下形成世界的功能性表征的问题。本文探讨了人类资源高效规划可能源于将世界表示为可预测的结构化的假设。基于概念即程序的隐喻，我们提出认知地图可以采取生成程序的形式，利用可预测性和冗余性，而不是直接编码空间布局。我们使用行为实验表明，在结构化空间中导航的人依赖于与程序化地图表示对齐的模块化规划策略。我们描述了一个计算模型，该模型可以预测各种结构化场景中的人类行为。该模型根据人类对世界的先验知识，推断出可能的程序化认知地图的小分布，并使用该分布来生成资源高效的计划。我们的模型利用大型语言模型作为人类先验的嵌入，这些先验是通过对大量人类数据进行训练而隐式学习的。我们的模型展示了改进的计算效率，需要大大减少的内存，并且在预测人类行为方面优于具有认知约束的非结构化规划算法，这表明人类规划策略依赖于程序化认知地图。
🔬 方法详解
问题定义：现有认知地图构建方法通常直接编码空间布局，忽略了环境中的结构化信息，导致在复杂或资源受限的环境中效率低下。尤其是在需要进行长期规划时，这种方法的计算复杂度会显著增加。因此，如何构建能够有效利用环境结构化信息，并实现资源高效规划的认知地图是一个关键问题。
核心思路：论文的核心思路是将认知地图建模为生成程序。这种方法不是直接存储空间布局，而是通过程序来生成空间信息。通过利用环境中的可预测性和冗余性，生成程序可以大大减少所需的存储空间和计算量。此外，程序化的表示方式也更易于进行模块化和抽象，从而支持更高级的规划策略。
技术框架：该模型包含以下几个主要模块：1) 先验知识嵌入模块：使用大型语言模型（LLM）对人类的先验知识进行编码，从而为认知地图的生成提供指导。2) 程序推断模块：根据环境信息和先验知识，推断可能的程序化认知地图的分布。3) 规划模块：利用推断出的认知地图分布，生成资源高效的规划方案。整体流程是，首先利用LLM对人类先验知识进行编码，然后根据环境信息和先验知识推断可能的程序化认知地图，最后利用这些认知地图生成规划方案。
关键创新：最重要的技术创新点在于将认知地图建模为生成程序。与传统的直接编码空间布局的方法相比，这种方法能够更好地利用环境中的结构化信息，从而实现资源高效的规划。此外，利用大型语言模型对人类先验知识进行编码，也为认知地图的生成提供了更强的指导。
关键设计：模型使用LLM（具体模型未知）作为先验知识的嵌入，通过训练LLM来学习人类对世界的理解。程序推断模块的具体实现方式未知，但需要能够根据环境信息和先验知识推断可能的程序化认知地图的分布。规划模块的具体算法也未知，但需要能够利用推断出的认知地图分布，生成资源高效的规划方案。关键参数设置包括LLM的训练参数、程序推断模块的参数以及规划模块的参数。损失函数的设计需要能够鼓励生成能够有效利用环境结构化信息的认知地图。
🖼️ 关键图片
📊 实验亮点
实验结果表明，该模型在预测人类行为方面优于传统的非结构化规划算法。与传统方法相比，该模型显著降低了内存需求，并提高了计算效率。具体的性能数据和提升幅度在论文中未明确给出，但摘要强调了计算效率的改进和内存的显著减少。
🎯 应用场景
该研究成果可应用于机器人导航、自动驾驶、游戏AI等领域。通过构建程序化的认知地图，智能体可以在复杂环境中更高效地进行规划和决策。此外，该方法还可以用于理解人类的认知过程，为人工智能的发展提供新的思路。
📄 摘要（原文）
Making sense of the world and acting in it relies on building simplified mental representations that abstract away aspects of reality. This principle of cognitive mapping is universal to agents with limited resources. Living organisms, people, and algorithms all face the problem of forming functional representations of their world under various computing constraints. In this work, we explore the hypothesis that human resource-efficient planning may arise from representing the world as predictably structured. Building on the metaphor of concepts as programs, we propose that cognitive maps can take the form of generative programs that exploit predictability and redundancy, in contrast to directly encoding spatial layouts. We use a behavioral experiment to show that people who navigate in structured spaces rely on modular planning strategies that align with programmatic map representations. We describe a computational model that predicts human behavior in a variety of structured scenarios. This model infers a small distribution over possible programmatic cognitive maps conditioned on human prior knowledge of the world, and uses this distribution to generate resource-efficient plans. Our models leverages a Large Language Model as an embedding of human priors, implicitly learned through training on a vast corpus of human data. Our model demonstrates improved computational efficiency, requires drastically less memory, and outperforms unstructured planning algorithms with cognitive constraints at predicting human behavior, suggesting that human planning strategies rely on programmatic cognitive maps.