Efficient Inference for Large Reasoning Models: A Survey

📄 arXiv: 2503.23077v3 📥 PDF

作者: Yue Liu, Jiaying Wu, Yufei He, Ruihan Gong, Jun Xia, Liang Li, Hongcheng Gao, Hongyu Chen, Baolong Bi, Jiaheng Zhang, Zhiqi Huang, Bryan Hooi, Stan Z. Li, Keqin Li

分类: cs.CL

发布日期: 2025-03-29 (更新: 2025-08-13)

🔗 代码/项目: GITHUB

💡 一句话要点

综述：面向大型推理模型的高效推理方法，旨在缓解token低效问题。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型推理模型 高效推理 思维链 模型压缩 知识蒸馏 推理加速 语言模型 综述

📋 核心要点

  1. 大型推理模型虽然提升了语言模型的推理能力，但其推理过程导致token使用效率低、内存消耗大和推理时间长。
  2. 该综述对LRM的高效推理方法进行分类，分为显式紧凑型CoT和隐式潜在CoT两大类，并分析其优缺点。
  3. 论文对现有方法进行了实证分析，并讨论了该领域面临的挑战，例如可控推理、可解释性与效率的权衡等。

📝 摘要（中文）

大型推理模型(LRM)通过学习推理，显著提高了大型语言模型(LLM)的推理能力，在解决复杂任务方面表现出良好的性能。然而，它们深思熟虑的推理过程导致了token使用、内存消耗和推理时间方面的效率低下。因此，本综述回顾了专门为LRM设计的高效推理方法，重点是缓解token低效问题，同时保持推理质量。本文的概述结构如图所示。首先，我们引入一个分类法，将最近的方法分为两大类：(a)显式紧凑型思维链(CoT)，它在保持显式推理结构的同时减少token；(b)隐式潜在CoT，它将推理步骤编码在隐藏表示中，而不是显式token。同时，我们讨论了它们的优点和缺点。然后，我们从推理场景、目标函数以及性能和效率方面对现有方法进行实证分析。此外，我们还提出了该领域面临的公开挑战，包括以人为中心的可控推理、推理的可解释性和效率之间的权衡、确保高效推理的安全性以及高效推理的更广泛应用。此外，我们重点介绍了通过模型合并、新架构和代理路由器等技术来提高LRM推理效率的关键见解。我们希望这项工作能成为一个有价值的指南，帮助研究人员克服这个充满活力的领域中的挑战。高效LRM推理方法(论文和代码)的集合可在以下链接找到：https://github.com/yueliu1999/Awesome-Efficient-Inference-for-LRMs。

🔬 方法详解

问题定义：大型推理模型（LRM）在解决复杂任务时表现出色，但其推理过程涉及大量的token，导致计算成本高昂、内存消耗大以及推理速度慢。现有方法在token效率方面存在不足，难以在资源受限的环境中部署。

核心思路：本综述的核心在于对现有高效推理方法进行分类和分析，旨在为研究人员提供一个全面的视角，从而更好地理解和改进LRM的推理效率。通过对不同方法的优缺点进行比较，可以帮助研究人员选择最适合特定任务的方法。

技术框架：该综述将现有的高效推理方法分为两大类： 1. 显式紧凑型CoT：这类方法通过减少token数量来提高效率，同时保持显式的推理结构。例如，通过知识蒸馏或prompt压缩来减少CoT中的token数量。 2. 隐式潜在CoT：这类方法将推理步骤编码在隐藏表示中，而不是使用显式的token。例如，通过学习一个隐式的推理过程来减少token的使用。

关键创新：该综述的关键创新在于提供了一个系统化的分类框架，将各种高效推理方法整合在一起，并对它们的优缺点进行了深入的分析。此外，该综述还讨论了该领域面临的挑战和未来的研究方向，例如可控推理和可解释性。

关键设计：该综述并没有提出新的算法或模型，而是对现有方法进行总结和分析。关键的设计在于分类框架的选择和对不同方法优缺点的评估。此外，该综述还关注了推理场景、目标函数以及性能和效率等多个方面，从而提供了一个全面的视角。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

该综述对现有高效推理方法进行了全面的实证分析，并总结了它们的性能和效率。虽然没有提供具体的性能数据，但通过对不同方法的比较，可以帮助研究人员了解它们的优缺点，并选择最适合特定任务的方法。该综述还指出了该领域面临的挑战和未来的研究方向。

🎯 应用场景

该研究成果可应用于各种需要复杂推理的场景，例如问答系统、知识图谱推理、智能决策等。通过提高LRM的推理效率，可以降低计算成本，使其能够在资源受限的环境中部署，并促进其在实际应用中的普及。

📄 摘要（原文）

Large Reasoning Models (LRMs) significantly improve the reasoning ability of Large Language Models (LLMs) by learning to reason, exhibiting promising performance in solving complex tasks. However, their deliberative reasoning process leads to inefficiencies in token usage, memory consumption, and inference time. Thus, this survey provides a review of efficient inference methods designed specifically for LRMs, focusing on mitigating token inefficiency while preserving the reasoning quality. The overview structure of this paper is shown in Figure~\ref{fig:paper_structure}. First, we introduce a taxonomy to group the recent methods into two main categories: (a) explicit compact Chain-of-Thought (CoT), which reduces tokens while keeping the explicit reasoning structure, and (b) implicit latent CoT, which encodes reasoning steps within hidden representations instead of explicit tokens. Meanwhile, we discuss their strengths and weaknesses. Then, we conduct empirical analyses on existing methods from reasoning scenarios, object functions, and performance \& efficiency aspects. Besides, we present open challenges in this field, including human-centric controllable reasoning, trade-off between interpretability and efficiency of reasoning, ensuring the safety of efficient reasoning, and broader applications of efficient reasoning. In addition, we highlight key insights for enhancing LRMs' inference efficiency via techniques such as model merging, new architectures, and agent routers. We hope this work serves as a valuable guide, helping researchers overcome challenges in this vibrant field. A collection of efficient reasoning methods for LRMs (papers and codes) is provided at this link: https://github.com/yueliu1999/Awesome-Efficient-Inference-for-LRMs.