A Survey on Latent Reasoning
作者: Rui-Jie Zhu, Tianhao Peng, Tianhao Cheng, Xingwei Qu, Jinfa Huang, Dawei Zhu, Hao Wang, Kaiwen Xue, Xuanliang Zhang, Yong Shan, Tianle Cai, Taylor Kergan, Assel Kembay, Andrew Smith, Chenghua Lin, Binh Nguyen, Yuqi Pan, Yuhong Chou, Zefan Cai, Zhenhe Wu, Yongchi Zhao, Tianyu Liu, Jian Yang, Wangchunshu Zhou, Chujie Zheng, Chongxuan Li, Yuyin Zhou, Zhoujun Li, Zhaoxiang Zhang, Jiaheng Liu, Ge Zhang, Wenhao Huang, Jason Eshraghian
分类: cs.CL
发布日期: 2025-07-08 (更新: 2025-07-10)
🔗 代码/项目: GITHUB
💡 一句话要点
综述潜在推理：探索大型语言模型在隐空间进行多步推理的新范式。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 潜在推理 大型语言模型 思维链 隐空间推理 神经网络 扩散模型 综述 多步推理
📋 核心要点
- 现有思维链推理依赖自然语言，限制了表达能力和推理效率，成为大型语言模型推理的瓶颈。
- 潜在推理旨在模型隐空间中进行多步推理，无需token级别的监督，提升推理效率和表达能力。
- 综述全面概述潜在推理领域，涵盖方法、技术和未来方向，并提供GitHub资源库方便研究。
📝 摘要（中文）
大型语言模型（LLMs）展现了令人印象深刻的推理能力，尤其是在显式的思维链（CoT）推理指导下，CoT能够将中间步骤进行语言化。虽然CoT提高了可解释性和准确性，但其对自然语言推理的依赖限制了模型的表达带宽。潜在推理通过完全在模型的连续隐藏状态中执行多步推理来解决这个瓶颈，从而消除了token级别的监督。为了推进潜在推理研究，本综述全面概述了潜在推理这一新兴领域。我们首先研究了神经网络层作为推理计算基础的角色，强调了分层表示如何支持复杂的转换。接下来，我们探讨了各种潜在推理方法，包括基于激活的递归、隐藏状态传播以及压缩或内化显式推理轨迹的微调策略。最后，我们讨论了高级范式，例如通过掩码扩散模型实现的无限深度潜在推理，这使得全局一致和可逆的推理过程成为可能。通过统一这些视角，我们旨在阐明潜在推理的概念格局，并为LLM认知前沿的研究规划未来方向。相关的GitHub存储库收集了最新的论文和代码，可在https://github.com/multimodal-art-projection/LatentCoT-Horizon/上找到。
🔬 方法详解
问题定义：现有的大型语言模型推理方法，特别是思维链（CoT）推理，依赖于显式的自然语言中间步骤。这种方法虽然提高了可解释性，但也存在表达带宽受限、推理效率较低的问题。此外，token级别的监督增加了训练的复杂性。因此，需要一种更高效、更灵活的推理方法，能够在不依赖显式语言表达的情况下进行复杂推理。
核心思路：论文的核心思路是探索在大型语言模型的连续隐藏状态中进行多步推理，即“潜在推理”。这种方法避免了对自然语言中间步骤的依赖，从而提高了推理效率和表达能力。通过在模型的隐空间中进行推理，可以利用模型内部的知识表示和计算能力，实现更复杂的推理过程。
技术框架：论文综述了多种潜在推理方法，主要包括以下几个方面：1) 基于激活的递归：利用神经网络层的激活函数进行递归推理。2) 隐藏状态传播：通过传播隐藏状态来实现多步推理。3) 微调策略：通过微调模型来压缩或内化显式推理轨迹。4) 基于掩码扩散模型的无限深度潜在推理：利用扩散模型实现全局一致和可逆的推理过程。
关键创新：论文的关键创新在于对潜在推理领域的系统性梳理和整合。它将各种不同的潜在推理方法统一到一个框架下，并指出了未来研究的方向。此外，论文还强调了基于掩码扩散模型的无限深度潜在推理的潜力，这是一种很有前景的潜在推理方法。
关键设计：论文本身是一篇综述，因此没有提出新的模型或算法。但是，论文中讨论的各种潜在推理方法都涉及关键的设计选择，例如：1) 激活函数的选择：不同的激活函数会影响递归推理的效果。2) 隐藏状态传播的策略：如何有效地传播隐藏状态是实现多步推理的关键。3) 微调策略的设计：如何设计微调策略才能有效地压缩或内化显式推理轨迹。4) 掩码扩散模型的架构和训练方法：如何设计掩码扩散模型才能实现全局一致和可逆的推理过程。
🖼️ 关键图片
📊 实验亮点
该综述总结了激活递归、隐状态传播、微调策略以及基于掩码扩散模型的无限深度潜在推理等多种方法。它强调了潜在推理在提升LLM推理效率和表达能力方面的潜力，并为未来研究方向提供了指导。该综述还提供了一个GitHub仓库，方便研究者获取最新的论文和代码。
🎯 应用场景
潜在推理在多个领域具有广泛的应用前景，例如：复杂问题求解、智能对话系统、机器人控制等。通过提高推理效率和表达能力，潜在推理可以使LLM更好地理解和解决现实世界的问题。此外，潜在推理还可以应用于模型压缩和知识蒸馏，将显式推理知识转移到更小的模型中，从而提高模型的泛化能力。
📄 摘要（原文）
Large Language Models (LLMs) have demonstrated impressive reasoning capabilities, especially when guided by explicit chain-of-thought (CoT) reasoning that verbalizes intermediate steps. While CoT improves both interpretability and accuracy, its dependence on natural language reasoning limits the model's expressive bandwidth. Latent reasoning tackles this bottleneck by performing multi-step inference entirely in the model's continuous hidden state, eliminating token-level supervision. To advance latent reasoning research, this survey provides a comprehensive overview of the emerging field of latent reasoning. We begin by examining the foundational role of neural network layers as the computational substrate for reasoning, highlighting how hierarchical representations support complex transformations. Next, we explore diverse latent reasoning methodologies, including activation-based recurrence, hidden state propagation, and fine-tuning strategies that compress or internalize explicit reasoning traces. Finally, we discuss advanced paradigms such as infinite-depth latent reasoning via masked diffusion models, which enable globally consistent and reversible reasoning processes. By unifying these perspectives, we aim to clarify the conceptual landscape of latent reasoning and chart future directions for research at the frontier of LLM cognition. An associated GitHub repository collecting the latest papers and repos is available at: https://github.com/multimodal-art-projection/LatentCoT-Horizon/.