On the Cost and Benefit of Chain of Thought: A Learning-Theoretic Perspective

📄 arXiv: 2605.21260v1 📥 PDF

作者: Yue Zhang, Zhiyi Dong, Tommaso Cesari, Yongyi Mao

分类: cs.LG

发布日期: 2026-05-20

💡 一句话要点

从学习理论角度分析思维链（CoT）的成本与收益

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 思维链 学习理论 推理风险 误差累积 稳定性分析

📋 核心要点

  1. 现有思维链方法缺乏对其成本和收益的理论分析，难以指导实际应用。
  2. 论文提出一种基于学习理论的框架，将思维链建模为答案映射和链式规则的交互。
  3. 该框架将推理风险分解为oracle-trajectory risk和trajectory-mismatch risk，揭示了CoT的成本和收益来源。

📝 摘要（中文）

本文从学习理论的角度理解思维链（CoT）。我们将CoT建模为答案映射和链式规则之间的交互，其中链式规则自回归地生成中间问题，并定义了在这种交互下的假设的推理风险。我们的首要结果是将这种风险紧密地分解为两个作用相反的项：oracle-trajectory risk (OTR)，它捕捉了CoT的益处，并简化为领域自适应问题中的目标领域风险；以及trajectory-mismatch risk (TMR)，它通过不匹配的推理轨迹上的误差累积来捕捉CoT的成本。然后，我们表明，如果没有结构，这种成本是不可避免的：如果损失、假设答案映射或链式规则中的任何一个缺乏稳定性，即使OTR为零且假设一致接近ground truth，TMR也可能任意大。相反，在稳定性下，我们证明了TMR的紧上限，该上限由一个精确的放大因子控制，该因子识别有界、线性和指数误差增长机制。总之，这些结果给出了一个精确的理论，说明CoT何时有帮助，何时有害，以及什么控制着两者之间的转变。

🔬 方法详解

问题定义：论文旨在理解和量化思维链（CoT）的成本与收益。现有方法缺乏对CoT内在机制的理论分析，无法解释CoT在不同场景下的表现差异，也难以指导CoT的优化和应用。CoT的优势在于其能够通过中间推理步骤提升问题解决能力，但同时也引入了误差累积的风险，如何平衡这两者是核心问题。

核心思路：论文的核心思路是将CoT建模为答案映射（answer map）和链式规则（chain rule）的交互。答案映射负责将问题映射到最终答案，而链式规则则负责自回归地生成中间问题。通过这种建模，可以将CoT的推理过程分解为一系列步骤，从而分析每个步骤对最终结果的影响。论文进一步将推理风险分解为两个部分：oracle-trajectory risk (OTR) 和 trajectory-mismatch risk (TMR)，分别代表CoT的收益和成本。

技术框架：整体框架包含以下几个关键组成部分：1) 问题空间和答案空间；2) 答案映射，将问题映射到答案；3) 链式规则，自回归地生成中间问题序列；4) 推理风险，用于衡量CoT的性能；5) OTR，衡量在理想轨迹下的风险；6) TMR，衡量由于轨迹不匹配导致的风险。论文通过学习理论工具，对OTR和TMR进行分析，并推导出它们之间的关系。

关键创新：论文最重要的创新在于提出了OTR和TMR的分解，这为理解CoT的成本和收益提供了一个新的视角。通过这种分解，可以更清晰地看到CoT的优势在于降低了oracle-trajectory risk，而劣势在于引入了trajectory-mismatch risk。此外，论文还分析了稳定性对TMR的影响，并证明了在缺乏稳定性时，TMR可能变得非常大。

关键设计：论文的关键设计包括：1) 将CoT建模为答案映射和链式规则的交互；2) 定义了推理风险，并将其分解为OTR和TMR；3) 分析了稳定性对TMR的影响，并推导出了TMR的上限。论文还提出了一个放大因子，用于衡量误差在推理过程中的增长情况。这些设计使得论文能够对CoT的成本和收益进行量化分析。

📊 实验亮点

论文提出了一个关于CoT成本和收益的理论框架，将推理风险分解为OTR和TMR。研究表明，在缺乏稳定性时，TMR可能变得非常大，而稳定性可以有效地控制TMR。论文还推导出了TMR的紧上限，并提出了一个放大因子，用于衡量误差在推理过程中的增长情况。

🎯 应用场景

该研究成果可应用于提升大型语言模型在复杂推理任务中的性能，例如数学问题求解、常识推理等。通过理解CoT的成本和收益，可以设计更有效的CoT策略，并避免误差累积。此外，该理论框架还可以用于评估和比较不同的CoT方法。

📄 摘要（原文）

We develop a learning-theoretic framework for understanding Chain of Thought (CoT). We model CoT as the interaction between an answer map and a chain rule that generates intermediate questions autoregressively, and define the reasoning risk of a hypothesis under this interaction. Our first result is a tight canonical decomposition of this risk into two terms with opposing roles: an oracle-trajectory risk (OTR), which captures the benefit of CoT and reduces to a target-domain risk in a domain adaptation problem, and a trajectory-mismatch risk (TMR), which captures the cost of CoT through error accumulation along mismatched reasoning trajectories. We then show that this cost is unavoidable without structure: if any one of the loss, the hypothesis answer map, or the chain rule lacks stability, the TMR can be arbitrarily large even when the OTR is zero and the hypothesis is uniformly close to the ground truth. Conversely, under stability, we prove a tight upper bound on the TMR governed by an exact amplification factor that identifies bounded, linear, and exponential error-growth regimes. Together, these results give a precise theory of when CoT helps, when it hurts, and what controls the transition between the two.