Does Latent Chain-of-Thought Actually Reason? A Single, Unifying Taxonomy for Latent Reasoning
作者: Jingjie Qiu, Sheldon Yu, Xunyi Jiang, Jiajin Liu, Zihan Huang, Zhendong Chu, Tong Yu, Julian McAuley, Junda Wu
分类: cs.AI
发布日期: 2026-10-15
💡 一句话要点
提出统一分类法以解析潜在推理的计算机制
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 潜在推理 链式思维 模型评估 逻辑推理 算术任务 分类法 深度学习 自然语言处理
📋 核心要点
- 现有方法未能明确潜在链式思维的计算机制，导致对模型推理能力的误判。
- 论文提出通过链删除和内容替换等方法，结合探测和轨迹分析，深入研究潜在链的作用。
- 实验结果显示，逻辑任务中的潜在链常作为占位符，而算术任务则对链内容表现出依赖性，提出了新的分类法。
📝 摘要（中文）
潜在链式思维通过连续的隐藏状态替代书面推理步骤，为模型提供额外的计算步骤。然而，这些步骤实际执行的计算尚不明确。本文研究了二十一种模型-任务配置，结合链删除和内容替换等方法，探讨链对答案的影响及其编码内容。结果表明，在逻辑任务中，潜在链常常携带的答案在链开始之前就已可读，且删除链几乎不改变预测。相对而言，算术任务则显示出对链内容的依赖。基于此，本文提出了一种分类法，区分链的表示与模型的使用方式，为潜在推理的研究提供了新的视角。
🔬 方法详解
问题定义：本文旨在解决潜在链式思维在推理过程中的计算机制不明确的问题。现有方法未能有效区分链的表示与模型的使用，导致对推理能力的误解。
核心思路：通过结合链删除和内容替换的方法，分析潜在链在不同任务中的作用，探索其对模型推理的影响，进而提出统一的分类法。
技术框架：研究涵盖三种训练方案、三种推理任务和两种基础模型，采用探测和轨迹分析等技术手段，系统评估潜在链的表现。
关键创新：提出了一种新的分类法，明确区分链的表示与模型的使用方式，解决了以往研究中对潜在推理的混淆问题。
关键设计：在实验中，采用了逐步监督的方法来组织推理步骤，并测试了链的删除和内容替换对模型性能的影响，发现链在逻辑任务中常作为占位符。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在逻辑任务中，删除潜在链几乎不影响预测结果，而在算术任务中，所有测试方案均表现出对链内容的依赖。这表明，仅有可读的潜在状态不足以证明模型的推理能力。
🎯 应用场景
该研究为理解和改进潜在推理模型提供了新的视角，具有广泛的应用潜力，尤其在自然语言处理、智能问答系统和自动推理等领域，能够提升模型的推理能力和准确性。
📄 摘要（原文）
Latent chain-of-thought replaces written reasoning steps with continuous hidden states, giving models additional steps to compute before answering. It remains unclear what computation these steps actually perform. High task accuracy and decodable intermediate answers do not establish that a model uses its latent chain to reach an answer. We study this question across twenty-one model-task configurations covering three training recipes, three reasoning tasks, and two backbones. We combine chain deletion and content replacement with probes and trajectory analysis to test whether the chain affects the answer, what it encodes, and how its states change. On logical tasks, COCONUT often carries an answer that is already readable before the chain begins. Its states settle early, and deleting the chain leaves predictions almost unchanged. Per-step supervision produces an ordered layout of reasoning steps and can make the model depend on the chain. Yet even an ordered chain can act as a placeholder, with deletion hurting performance while content replacement leaves answers unchanged. On arithmetic tasks, all tested recipes show dependence on chain content. These results show why readable latent states alone are insufficient evidence of reasoning. We introduce a taxonomy that separates what a chain represents from how the model uses it. Seen this way, earlier reports no longer compete: placeholder tokens, collapsed superposition and step-dependent causal roles are each consistent with a different kind of chain, each obtained on a different task, training recipe or measurement. Once a study says which property it tested, whether the model uses the chain, what the chain holds, or how its state moves, claims about latent reasoning can be compared.