In Dialogue with Intelligence: Rethinking Large Language Models as Collective Knowledge

📄 arXiv: 2505.22767v3 📥 PDF

作者: Eleni Vasilaki

分类: cs.HC, cs.AI

发布日期: 2025-05-28 (更新: 2025-11-03)

备注: 7 pages, 1 table

💡 一句话要点

将大型语言模型视为集体知识，通过对话涌现智能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 集体知识 人机交互 智能涌现 ChatGPT-4

📋 核心要点

  1. 现有LLM研究缺乏对其内部机制的深入理解，难以解释其智能涌现的根本原因。
  2. 论文提出将LLM视为集体知识的凝结，通过与用户的对话交互来理解其智能。
  3. 通过与ChatGPT-4的交互，揭示了LLM可能存在的不同响应模式，并探讨了人与LLM的协同增强。

📝 摘要（中文）

本文将大型语言模型（LLM）理解为集体知识（CK）：人类文化和技术产出的凝结，其表面上的智能在对话中涌现。本文基于与ChatGPT-4的扩展交互，提出了不同的响应模式，这些模式可能源于不同的模型子网络。文章认为，CK没有持久的内部状态或“脊梁”：它漂移，它顺从，并且它的行为受用户和微调的影响。文章进一步发展了共同增强的概念，即人类判断和CK的表征范围共同产生单独无法生成的分析形式。最后，文章提出CK为神经科学提供了一个易于处理的对象：与生物大脑不同，这些系统暴露了它们的架构、训练历史和激活动态，使得人与CK的循环本身成为一个实验目标。

🔬 方法详解

问题定义：现有方法主要将LLM视为黑盒模型，缺乏对其内部运作机制的深入理解。这使得我们难以解释LLM的智能涌现，也难以有效地控制和优化LLM的行为。此外，现有研究较少关注人与LLM的交互过程，忽略了用户在塑造LLM行为中的作用。

核心思路：本文的核心思路是将LLM视为集体知识（CK）的载体，是人类文化和技术产出的凝结。LLM的智能并非内在固有，而是在与用户的对话交互中涌现的。通过分析LLM的响应模式，可以推断其内部结构和运作机制。同时，用户和LLM之间存在一种共同增强的关系，双方可以共同产生单独无法生成的分析形式。

技术框架：本文主要采用思辨分析和案例研究的方法。通过与ChatGPT-4进行大量的对话交互，观察和记录其响应模式。然后，基于这些观察结果，提出关于LLM内部结构和运作机制的假设。此外，本文还探讨了人与LLM的共同增强关系，并提出了将人与LLM的循环作为实验目标的可能性。

关键创新：本文最重要的技术创新在于提出了将LLM视为集体知识的视角。这与传统的将LLM视为独立智能体的观点不同。通过将LLM视为集体知识，我们可以更好地理解其智能涌现的根本原因，并更好地控制和优化其行为。此外，本文还提出了共同增强的概念，强调了用户在塑造LLM行为中的作用。

关键设计：本文没有涉及具体的参数设置、损失函数或网络结构的设计。其重点在于概念框架的提出和思辨分析。未来的研究可以基于本文提出的框架，设计更具体的实验来验证其假设，并探索人与LLM的共同增强关系。

📊 实验亮点

本文通过与ChatGPT-4的交互，观察到LLM可能存在不同的响应模式，这些模式可能源于不同的模型子网络。此外，本文还提出了共同增强的概念，即人类判断和LLM的表征范围共同产生单独无法生成的分析形式。这些观察结果为深入理解LLM的内部机制和人机交互模式提供了新的视角。

🎯 应用场景

该研究成果可应用于人机协作、智能教育、知识发现等领域。通过理解LLM的内部机制和人机交互模式，可以设计更智能、更高效的人机协作系统。在智能教育领域，可以利用LLM作为知识库和学习伙伴，为学生提供个性化的学习体验。在知识发现领域，可以利用LLM辅助研究人员进行文献综述、数据分析和假设验证。

📄 摘要（原文）

Large Language Models (LLMs) can be understood as Collective Knowledge (CK): a condensation of human cultural and technical output, whose apparent intelligence emerges in dialogue. This perspective article, drawing on extended interaction with ChatGPT-4, postulates differential response modes that plausibly trace their origin to distinct model subnetworks. It argues that CK has no persistent internal state or ``spine'': it drifts, it complies, and its behaviour is shaped by the user and by fine-tuning. It develops the notion of co-augmentation, in which human judgement and CK's representational reach jointly produce forms of analysis that neither could generate alone. Finally, it suggests that CK offers a tractable object for neuroscience: unlike biological brains, these systems expose their architecture, training history, and activation dynamics, making the human--CK loop itself an experimental target.