The information geometry of large language models is shared, learned, and controllable
作者: Dario Picozzi
分类: cs.LG, cs.CL
发布日期: 2026-09-10
💡 一句话要点
提出几何结构以控制大型语言模型行为
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 几何控制 Fisher-Rao几何 行为调整 语义迁移
📋 核心要点
- 现有大型语言模型在行为上存在相似性，但缺乏对共享结构的理解，且改变某一行为时可能影响其他行为。
- 论文通过Fisher-Rao几何分析模型行为，提出了一种新的几何结构来控制和调整模型行为，确保不同模型间的一致性。
- 研究表明，输出几何的一致性高于激活几何，且通过几何控制可以有效提升模型的预测准确性和行为稳定性。
📝 摘要（中文）
大型语言模型学习到相似的行为，但尚不清楚它们共享的结构是什么，以及如何在不干扰其他行为的情况下改变某一行为。本文通过Fisher-Rao几何连接这些问题，表明行为决定了几何结构，而激活几何依赖于坐标。研究发现，不同模型的输出几何比激活几何更一致，共享几何支持语义类别的迁移。随着预测准确性、规模和训练的提高，与人类词汇选择的一致性也随之增加。此外，几何结构能够指导最小干扰的局部干预，预测相对成本，并支持可重用的控制。
🔬 方法详解
问题定义：本文旨在解决大型语言模型行为之间的共享结构及其可控性问题。现有方法在调整模型行为时，往往会影响其他行为，缺乏有效的控制机制。
核心思路：论文提出通过Fisher-Rao几何来分析和控制模型行为，利用几何结构的特性来实现行为的最小干扰调整。这样的设计使得模型在不同任务间的迁移和调整变得更加高效。
技术框架：整体架构包括行为几何分析、激活几何分析和控制机制三个主要模块。首先，通过分析模型的输出几何来理解其行为，然后利用激活几何来优化模型的内部表示，最后实现对模型行为的控制。
关键创新：最重要的技术创新在于提出了共享几何的概念，表明不同模型间的输出几何一致性高于激活几何，从而为模型行为的调整提供了新的视角和方法。
关键设计：在模型训练中，采用了特定的损失函数来优化输出几何的对齐，同时设计了可重用的控制机制，使得在不同的提示下，模型能够保持行为的一致性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，随着模型规模和训练的增加，预测准确性显著提高，与人类词汇选择的一致性也随之增强。通过几何控制，模型在不同提示下的行为保持更高的一致性，相较于传统的欧几里得控制方法，性能提升明显。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、对话系统和文本生成等。通过有效控制模型行为，可以提升模型在特定任务上的表现，减少不必要的干扰，从而提高用户体验和模型的实用性。未来，该方法可能在多模态学习和跨领域迁移学习中发挥重要作用。
📄 摘要（原文）
Large language models learn similar behaviours, yet it remains unclear what structure they share or how to change one behaviour without disturbing others. The Fisher-Rao geometry of next-token probabilities connects these questions: behaviour determines this geometry up to output-preserving symmetries, whereas activation geometry depends on coordinates. Across transformer, state-space and recurrent models, output geometries agree more strongly than activation geometries, and shared geometry supports semantic-category transfer. Agreement with human word choices increases with predictive accuracy, scale and training, and improves further after model-only calibration. Token probabilities and read-out geometry jointly predict the spectrum and its effective dimension. Controlled language assignments show that geometry follows the language law across architectures. Pretraining corpus statistics predict held-out fact acquisition without recalibration, while randomised experiments show that deeper evidence substantially delays acquisition across every tested architecture and evidence construction. Finally, the geometry prescribes minimum-disturbance local interventions, predicts their relative cost, and supports reusable control: updates learned on donor prompts transfer to unseen prompts while better preserving behaviour on reference prompts than Euclidean control. The same geometric correction improves steering, editing, attribution, dictionary learning and fine-tuning.