LLM Reasoning as Trajectories: Step-Specific Representation Geometry and Correctness Signals

📄 arXiv: 2604.05655v1 📥 PDF

作者: Lihao Sun, Hang Dong, Bo Qiao, Qingwei Lin, Dongmei Zhang, Saravan Rajmohan

分类: cs.CL, cs.AI, cs.LG

发布日期: 2026-04-07

备注: ACL 2026 (Main)

💡 一句话要点

将LLM推理视为轨迹：揭示步骤特定表征几何与正确性信号，并实现推理过程干预。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 思维链 推理轨迹 表征学习 几何分析

📋 核心要点

  1. 现有方法难以理解和控制LLM的推理过程，缺乏对中间步骤的有效干预手段。
  2. 该论文将LLM的推理过程建模为表征空间中的轨迹，通过分析轨迹的几何特性来理解推理过程。
  3. 实验表明，基于轨迹的分析能够预测推理结果的正确性，并实现推理过程的校正和长度控制。

📝 摘要（中文）

本文将大型语言模型的思维链生成过程描述为表征空间中的结构化轨迹。研究表明，数学推理过程会遍历功能有序的、步骤特定的子空间，这些子空间随着层深度的增加而变得越来越可分离。这种结构已经存在于基础模型中，而推理训练主要加速了向终止相关子空间的收敛，而不是引入新的表征组织。虽然早期的推理步骤遵循相似的轨迹，但正确和不正确的解决方案在后期阶段系统地发散。这种后期发散使得能够在推理过程中预测最终答案的正确性，ROC-AUC高达0.87。此外，本文还引入了基于轨迹的引导，这是一种推理时干预框架，能够基于导出的理想轨迹实现推理校正和长度控制。总之，这些结果将推理轨迹确立为解释、预测和控制LLM推理行为的几何视角。

🔬 方法详解

问题定义：现有的大型语言模型（LLM）在进行复杂推理时，其内部运作机制如同一个黑盒，难以理解和控制。尤其是在思维链（Chain-of-Thought, CoT）推理过程中，我们难以追踪模型每一步推理的表征变化，也难以在推理过程中进行有效的干预和纠正。现有的方法缺乏对LLM推理过程的细粒度理解，无法有效利用中间步骤的信息来提升推理性能。

核心思路：本文的核心思路是将LLM的CoT推理过程视为在表征空间中的一条轨迹。通过分析这条轨迹的几何特性，例如轨迹的形状、方向、以及不同步骤之间的距离和角度，来理解LLM的推理过程。作者认为，正确的推理过程会沿着特定的轨迹行进，而错误的推理过程则会偏离这条轨迹。通过识别和纠正这种偏离，可以提高LLM的推理准确性。

技术框架：该研究的技术框架主要包括以下几个步骤：1) 使用LLM生成CoT推理过程；2) 提取LLM每一层中每个推理步骤的表征向量；3) 使用降维技术（如PCA）将高维表征向量映射到低维空间；4) 分析低维空间中推理轨迹的几何特性，例如轨迹的长度、曲率、以及不同轨迹之间的距离；5) 基于轨迹的几何特性，训练分类器来预测推理结果的正确性；6) 设计基于轨迹的干预策略，例如将错误的轨迹引导回正确的轨迹。

关键创新：该论文的关键创新在于将LLM的推理过程视为表征空间中的轨迹，并利用几何分析的方法来理解和控制推理过程。与现有方法相比，该方法能够提供对LLM推理过程更细粒度的理解，并能够实现推理过程的校正和长度控制。此外，该研究还提出了基于轨迹的引导（Trajectory-based Steering）方法，这是一种新颖的推理时干预框架。

关键设计：在轨迹分析方面，作者使用了PCA降维技术，将高维的表征向量映射到低维空间，以便于可视化和分析。在预测推理结果正确性方面，作者使用了逻辑回归分类器，并取得了较高的ROC-AUC值（高达0.87）。在基于轨迹的引导方面，作者设计了一种基于距离的干预策略，即当推理轨迹偏离理想轨迹时，通过调整模型的输出，将其引导回理想轨迹。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，通过分析推理轨迹的几何特性，可以预测最终答案的正确性，ROC-AUC高达0.87。此外，提出的基于轨迹的引导方法能够有效地校正推理过程，并控制推理长度。这些结果验证了推理轨迹作为理解和控制LLM推理行为的有效工具。

🎯 应用场景

该研究成果可应用于提升LLM在数学、逻辑推理等领域的性能。通过对推理轨迹的分析和干预，可以提高LLM的可靠性和可控性，使其在需要高精度推理的场景中发挥更大的作用，例如金融分析、医疗诊断、智能客服等。此外，该研究也为理解LLM的内部运作机制提供了新的视角。

📄 摘要（原文）

This work characterizes large language models' chain-of-thought generation as a structured trajectory through representation space. We show that mathematical reasoning traverses functionally ordered, step-specific subspaces that become increasingly separable with layer depth. This structure already exists in base models, while reasoning training primarily accelerates convergence toward termination-related subspaces rather than introducing new representational organization. While early reasoning steps follow similar trajectories, correct and incorrect solutions diverge systematically at late stages. This late-stage divergence enables mid-reasoning prediction of final-answer correctness with ROC-AUC up to 0.87. Furthermore, we introduce trajectory-based steering, an inference-time intervention framework that enables reasoning correction and length control based on derived ideal trajectories. Together, these results establish reasoning trajectories as a geometric lens for interpreting, predicting, and controlling LLM reasoning behavior.