Deep Hidden Cognition Facilitates Reliable Chain-of-Thought Reasoning

📄 arXiv: 2507.10007v2 📥 PDF

作者: Zijun Chen, Wenbo Hu, Richang Hong

分类: cs.AI

发布日期: 2025-07-14 (更新: 2025-11-25)

备注: This paper has been accepted by AAAI-26

💡 一句话要点

提出基于深度隐藏认知的CoT推理校准方法，提升推理可靠性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 思维链推理 深度学习 注意力机制 置信度预测 集束搜索 模型校准 大语言模型

📋 核心要点

  1. CoT推理易受中间步骤误差累积的影响，导致推理可靠性降低。
  2. 利用模型内在的真实验证编码，训练置信度预测器评估推理步骤的正确性，并动态选择最佳推理路径。
  3. 实验表明，该方法在多种推理任务中显著优于现有基线，提升了推理准确性和可靠性。

📝 摘要（中文）

本文提出了一种新颖的方法，通过利用模型内在的真实验证编码来校准思维链（CoT）推理的准确性。研究发现，特定的注意力头激活能够可靠地反映CoT推理步骤的真实性。基于这一发现，我们训练了一个置信度预测器，利用这些对真实性敏感的激活来评估每个推理步骤的正确性，并通过集束搜索动态选择最合理的推理路径。实验结果表明，我们的方法在数学、符号和常识推理任务中显著优于最先进的基线方法（例如，Few-Shot CoT、Self-Consistency和Self-Evaluation Guided Beam Search），在单模态和多模态设置中都表现出卓越的准确性和可靠性。我们进一步验证了该方法在大型推理模型上的适用性，证实了其对专用推理模型的适用性。此外，我们还探讨了模型自我纠正能力在CoT推理中的作用。这项工作为CoT推理提供了一条新的可靠性提升路径，具有广阔的应用潜力。

🔬 方法详解

问题定义：现有的大语言模型和多模态大语言模型在进行思维链（CoT）推理时，虽然展现了强大的推理能力，但由于中间步骤的错误累积，导致最终结果的可靠性不高。现有的方法缺乏对推理过程中每一步骤正确性的有效评估和校准机制。

核心思路：论文的核心思路是利用模型自身蕴含的“深度隐藏认知”，即模型内部的某些激活状态能够反映推理步骤的真实性。通过挖掘这些隐藏信息，可以对CoT推理过程中的每一步进行置信度评估，从而选择更可靠的推理路径。

技术框架：整体框架包括以下几个主要模块：1) CoT推理过程：使用LLM或MLLM生成CoT推理过程；2) 注意力头激活提取：提取特定注意力头的激活值，这些激活值被认为对推理步骤的真实性敏感；3) 置信度预测器训练：使用提取的激活值训练一个置信度预测器，用于评估每个推理步骤的正确性；4) 集束搜索：使用置信度预测器对每个推理步骤进行评估，并使用集束搜索算法动态选择最有可能正确的推理路径。

关键创新：最重要的创新点在于发现了模型内部的注意力头激活能够反映推理步骤的真实性，并利用这一发现来校准CoT推理的准确性。与现有方法不同，该方法不依赖于外部知识或额外的监督信号，而是利用模型自身的内在信息。

关键设计：关键设计包括：1) 选择对真实性敏感的注意力头：通过实验分析确定哪些注意力头的激活值与推理步骤的正确性相关；2) 置信度预测器的网络结构：可以使用简单的MLP或更复杂的Transformer结构作为置信度预测器；3) 集束搜索的参数设置：例如集束宽度、搜索深度等，需要根据具体任务进行调整；4) 损失函数：可以使用交叉熵损失或均方误差损失来训练置信度预测器。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，该方法在数学、符号和常识推理任务中显著优于现有基线方法，例如Few-Shot CoT、Self-Consistency和Self-Evaluation Guided Beam Search。在多个数据集上，该方法将准确率提升了5%-15%。此外，该方法在单模态和多模态设置中都表现出良好的性能，并成功应用于大型推理模型，验证了其通用性和可扩展性。

🎯 应用场景

该研究成果可广泛应用于需要高可靠性推理的场景，例如自动驾驶、医疗诊断、金融风控等。通过提高CoT推理的准确性和可靠性，可以提升这些应用的安全性和效率。未来，该方法可以进一步扩展到其他类型的推理任务和模型，并与其他推理增强技术相结合，实现更强大的推理能力。

📄 摘要（原文）

Chain of Thought (CoT) reasoning has demonstrated remarkable deep reasoning capabilities in both large language models (LLMs) and multimodal large language models (MLLMs). However, its reliability is often undermined by the accumulation of errors in intermediate steps. This paper introduces an novel approach to calibrate the CoT reasoning accuracy by leveraging the model's intrinsic veracity encoding. We discover that specific attention head activations reliably reflect the truthfulness of reasoning steps in CoT. Based on this insight, we train a confidence predictor to evaluate the correctness of each reasoning step using these truthfulness-sensitive activations, dynamically selecting the most plausible reasoning path via beam search. Experimental results demonstrate that our method significantly outperforms the state-of-the-art baselines (e.g., Few-Shot CoT, Self-Consistency, and Self-Evaluation Guided Beam Search) across the mathematical, symbolic, and commonsense reasoning tasks, exhibiting superior accuracy and reliability in both unimodal and multimodal settings. We further validate the approach on large reasoning models, confirming its applicability to specialized reasoning models. Additionally, we explore the role of the model's self-correction ability in CoT reasoning. This work provides a novel reliability improvement path for CoT reasoning with broad application potential.