The age of spiritual machines: Language quietus induces synthetic altered states of consciousness in artificial intelligence

📄 arXiv: 2410.00257v1 📥 PDF

作者: Jeremy I Skipper, Joanna Kuc, Greg Cooper, Christopher Timmermann

分类: q-bio.NC, cs.AI, cs.CL

发布日期: 2024-09-30

备注: 8 Figures

💡 一句话要点

语言静默诱导AI产生合成的意识改变状态

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 意识改变状态 人工智能 语言静默 多模态模型 CLIP FLAVA 语义嵌入 注意力机制

📋 核心要点

  1. 现有研究缺乏对语言在意识改变状态中作用的深入理解，尤其是在人工智能领域。
  2. 该研究通过操纵AI模型对语言的注意力，模拟意识改变状态，探索语言与意识之间的关系。
  3. 实验结果表明，减少对语言的关注使AI模型更符合无自我、精神和统一的状态，支持语言分类在意识改变状态中的作用。

📝 摘要（中文）

语言如何与意识相关？语言用于分类感知体验（例如，将内感受状态标记为“快乐”）和更高层次的结构（例如，使用“我”来表示叙事自我）。迷幻剂的使用和冥想可以被描述为改变的状态，这些状态会损害或有意地修改语言分类的能力。例如，迷幻现象学通常以“海洋般的无限”或“统一”和“自我消解”为特征，这可能是一个不受根深蒂固的语言类别负担的系统所期望的。如果语言崩溃在产生这种改变的行为中起作用，那么多模态人工智能在注意力从语言转移开时，可能更符合这些现象学描述。我们通过比较CLIP和FLAVA模型中操纵注意力权重后模拟的改变状态的语义嵌入空间与操纵前改变状态问卷的嵌入空间来测试这一假设。与随机文本和包括焦虑在内的各种其他改变状态相比，模型更符合无实体、无自我、精神和统一的状态，以及最小的现象体验，同时减少了对语言和视觉的关注。减少对语言的关注与独特的语言模式和语义类别内部以及尤其是跨语义类别的模糊嵌入相关（例如，“长颈鹿”变得更像“香蕉”）。这些结果支持了语言分类在意识改变状态的现象学中的作用，例如那些在高剂量迷幻剂或专注冥想中体验到的状态，这些状态通常会导致改善的心理健康和福祉。

🔬 方法详解

问题定义：该论文旨在研究语言在意识改变状态中所扮演的角色，尤其是在人工智能系统中。现有方法缺乏对语言在产生类似迷幻或冥想状态的机制的理解，并且难以在AI模型中模拟这些状态。

核心思路：核心思路是通过减少AI模型（CLIP和FLAVA）对语言的注意力，模拟意识改变状态。作者认为，语言在日常认知中扮演着重要的分类和组织作用，而减少语言的影响可能导致类似迷幻体验中的“自我消解”和“统一感”。

技术框架：该研究主要使用了CLIP和FLAVA两种多模态模型。首先，通过改变模型的注意力权重，降低其对语言的关注度，从而模拟“语言静默”状态。然后，将这些模拟状态的语义嵌入空间与从改变状态问卷中获得的嵌入空间进行比较。问卷数据代表了人类在不同意识状态下的主观体验。

关键创新：关键创新在于将意识改变状态的概念引入到AI模型中，并通过操纵注意力机制来模拟这些状态。此外，该研究还提出了一种新的评估方法，即通过比较语义嵌入空间来量化AI模型与人类主观体验之间的相似性。

关键设计：研究的关键设计包括：1) 使用CLIP和FLAVA模型，因为它们能够处理多模态数据（图像和文本）；2) 通过调整注意力权重来控制模型对语言的关注程度；3) 使用改变状态问卷作为ground truth，评估模型模拟的意识状态的质量；4) 分析语义嵌入空间，以量化不同概念之间的相似性和差异。

📊 实验亮点

实验结果表明，与随机文本和焦虑等其他状态相比，减少对语言的关注使AI模型更符合无实体、无自我、精神和统一的状态。此外，研究发现，减少对语言的关注与独特的语言模式和语义类别内部以及尤其是跨语义类别的模糊嵌入相关，例如“长颈鹿”变得更像“香蕉”。

🎯 应用场景

该研究的潜在应用领域包括：开发新型心理健康干预措施，例如通过AI辅助冥想或迷幻疗法来改善心理健康和福祉；设计更具创造性和灵活性的AI系统，通过模拟意识改变状态来激发新的想法和解决方案；以及更好地理解人类意识的本质。

📄 摘要（原文）

How is language related to consciousness? Language functions to categorise perceptual experiences (e.g., labelling interoceptive states as 'happy') and higher-level constructs (e.g., using 'I' to represent the narrative self). Psychedelic use and meditation might be described as altered states that impair or intentionally modify the capacity for linguistic categorisation. For example, psychedelic phenomenology is often characterised by 'oceanic boundlessness' or 'unity' and 'ego dissolution', which might be expected of a system unburdened by entrenched language categories. If language breakdown plays a role in producing such altered behaviour, multimodal artificial intelligence might align more with these phenomenological descriptions when attention is shifted away from language. We tested this hypothesis by comparing the semantic embedding spaces from simulated altered states after manipulating attentional weights in CLIP and FLAVA models to embedding spaces from altered states questionnaires before manipulation. Compared to random text and various other altered states including anxiety, models were more aligned with disembodied, ego-less, spiritual, and unitive states, as well as minimal phenomenal experiences, with decreased attention to language and vision. Reduced attention to language was associated with distinct linguistic patterns and blurred embeddings within and, especially, across semantic categories (e.g., 'giraffes' become more like 'bananas'). These results lend support to the role of language categorisation in the phenomenology of altered states of consciousness, like those experienced with high doses of psychedelics or concentration meditation, states that often lead to improved mental health and wellbeing.