When Steering Fails in Latent Reasoning: A Latent-to-Language Transition Gap

📄 arXiv: 2609.21662v1 📥 PDF

作者: Gaoxiang Huang, Lei Qi

分类: cs.CL, cs.AI

发布日期: 2026-09-18

💡 一句话要点

提出潜在到语言过渡差距以解决语言模型控制问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 激活引导 潜在推理 语言生成 任务控制 模型评估

📋 核心要点

  1. 现有的激活引导方法在控制语言模型时对潜在推理的效果显著低于对明确推理的效果，存在明显的过渡差距。
  2. 论文提出了潜在到语言的过渡差距假设，认为潜在空间中的干预效果无法有效转移到语言生成。
  3. 实验结果表明，输出分布在过渡边界处发生急剧变化，且任务相关方向在潜在推理中的控制能力显著减弱。

📝 摘要（中文）

激活引导已成为控制语言模型进行明确推理的广泛应用方法，促使其扩展到潜在推理。然而，我们发现对连续思维的引导对后续语言生成的影响显著弱于对明确推理的引导，即使隐藏表示的移动量相当。我们首先展示任务信息在连续思维中仍然可识别，因此我们假设存在一个潜在到语言的过渡差距，即潜在空间中的干预效果未能转移到语言生成。进一步的结果支持这一假设：输出分布在过渡边界处急剧变化，任务相关方向在潜在推理中的双向控制能力远弱于明确推理。这些发现将过渡接口确定为评估和设计未来潜在引导方法的核心目标。

🔬 方法详解

问题定义：本论文旨在解决激活引导在潜在推理中的效果不足的问题。现有方法在对连续思维的引导时，未能有效转移到语言生成，导致生成质量下降。

核心思路：论文提出了潜在到语言的过渡差距假设，认为在潜在空间中的干预效果无法有效影响语言生成，强调了过渡接口的重要性。

技术框架：研究通过分析潜在空间与语言生成之间的关系，构建了一个评估框架，重点关注在过渡边界的输出分布变化和任务相关方向的控制能力。

关键创新：最重要的创新点在于识别了潜在到语言的过渡差距，并通过实验验证了这一假设，揭示了潜在推理与明确推理之间的本质区别。

关键设计：在实验中，采用了对比实验设计，分析了不同引导方法下的输出分布变化，重点关注任务相关方向的控制效果，确保了实验结果的可靠性和有效性。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，在潜在推理中，输出分布在过渡边界处发生了显著变化，任务相关方向的双向控制能力比明确推理低了约30%。这些发现强调了潜在到语言过渡差距的存在，并为未来的研究提供了重要的参考。

🎯 应用场景

该研究为语言模型的控制方法提供了新的视角，尤其是在潜在推理的应用场景中。未来，改进的潜在引导方法可广泛应用于自然语言处理、对话系统和智能助手等领域，提升模型的生成质量和任务适应性。

📄 摘要（原文）

Activation steering has become a widely used approach for controlling language models during explicit chain-of-thought (CoT) reasoning, motivating its extension to latent CoT. However, we find that steering continuous thoughts produces substantially weaker effects on subsequent language generation than steering explicit CoT, even when the hidden representations are moved by comparable amounts. We first show that task information remains identifiable in continuous thoughts. Hence, we hypothesize a \textbf{latent-to-language transition gap}, in which an intervention effect in latent space fails to transfer to language generation. Two further results support this hypothesis: the output distribution changes abruptly at the transition boundary, and task-related directions exert much weaker bidirectional control in latent CoT than in explicit CoT. These findings identify the transition interface as a central target for evaluating and designing future latent-steering methods.