What Matters for Latent Reasoning with Flow Matching

📄 arXiv: 2610.06666v1 📥 PDF

作者: Yassine Ouali, Adrian Bulat, Georgios Tzimiropoulos

分类: cs.LG, cs.CL

发布日期: 2026-10-05

💡 一句话要点

提出FLaRe以解决潜在推理效率与准确性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 潜在推理 流匹配 大型语言模型 可解释性 高效推理 算术基准测试 深度学习

📋 核心要点

  1. 现有的潜在推理方法往往无法满足有效推理的五个基本要求，导致推理结果不够准确或多样。
  2. 本文提出基于流的潜在推理（FLaRe），通过流匹配在学习的潜在空间中实现更有效的推理过程。
  3. FLaRe在所有五个要求上均优于以往方法，并在算术基准测试中表现出色，达到显式CoT 97%的准确率，延迟仅为其四分之一。

📝 摘要（中文）

潜在推理使大型语言模型（LLM）能够在连续空间中思考并仅表达答案。本文提出有效的潜在思维需满足五个要求：有用性、多样性、可解释性、可精炼性和高效性。现有方法往往无法满足这些要求，通常通过学习问题的捷径或逐步模仿显式思维链（CoT）。我们聚焦于在学习的潜在空间中进行流匹配，提出了一种简单的流程——基于流的潜在推理（FLaRe），涵盖潜在空间的编码、流的训练、答案的读取及基于模型自身验证思维的最终训练。实验结果表明，FLaRe在所有五个要求上均优于以往方法，并在算术基准测试中表现良好，达到显式CoT 97%的准确率，同时延迟仅为其四分之一。

🔬 方法详解

问题定义：本文旨在解决现有潜在推理方法在准确性和效率上的不足，现有方法往往依赖于问题的捷径或逐步模仿显式思维链，导致推理效果不佳。

核心思路：FLaRe通过流匹配在学习的潜在空间中进行推理，旨在满足有效推理的五个要求，设计上强调多样性和可解释性。

技术框架：FLaRe的整体架构包括四个主要模块：潜在空间的编码、流的训练、答案的读取和基于模型自身验证思维的最终训练。

关键创新：FLaRe的核心创新在于流匹配的使用，使得潜在推理不仅高效且具备更好的可解释性，与现有方法相比，避免了简单的模仿和捷径学习。

关键设计：在FLaRe中，关键参数设置和损失函数设计经过精心调整，以确保流的训练能够有效捕捉潜在空间的特征，同时在答案读取阶段保持高效性。具体的网络结构和训练策略也经过优化，以提升整体性能。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

FLaRe在所有五个潜在推理要求上均优于以往方法，并在算术基准测试中表现优异，达到显式思维链97%的准确率，同时延迟仅为其四分之一，显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、智能问答系统和教育技术等。通过提升潜在推理的效率和准确性，FLaRe可以在实际应用中提供更为可靠的推理支持，推动智能系统在复杂任务中的表现。

📄 摘要（原文）

Latent reasoning lets a large language model (LLM) think in a continuous space and verbalize only the answer. We argue that an effective latent thought must meet five requirements: it should be useful, helping produce the correct answer rather than merely changing it, diverse, so that resampling yields different reasoning trajectories, explainable, so that a decoded chain of thought (CoT) reflects reasoning the answer actually follows, refinable with more inference compute, and efficient, costing less than an explicit CoT at comparable accuracy. Current methods rarely meet these requirements: they learn shortcuts from the question, distill the explicit CoT into their weights, or imitate it one token at a time. We focus on flow matching in a learned latent space, the family we argue is best placed to meet them, and identify the training choices that make it work. The result is Flow-based Latent Reasoning (FLaRe), a simple recipe covering what the latent space encodes and how to shape it, where to train the flow, how to read out the answer, and a final stage of training on the model's own verified thoughts. A probe for each requirement shows that FLaRe improves on prior latent methods in all five. It also compares favorably with them on arithmetic benchmarks, while reaching 97% of the accuracy of explicit CoT at a quarter of its latency.