Confidence-Weighted Token Set Cover for Early Hypothesis Pruning in Self-Consistency

📄 arXiv: 2508.03979v1 📥 PDF

作者: Md Arafat Sultan, Ramón Fernandez Astudillo

分类: cs.CL

发布日期: 2025-08-06

💡 一句话要点

提出基于置信度加权的假设修剪方法以提高自一致性效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自一致性 假设修剪 代币效率 长链推理 加权集合覆盖 大型语言模型 数学基准

📋 核心要点

  1. 现有的自一致性方法在长链推理任务中存在高代币消耗的问题，限制了其实际应用。
  2. 本文提出了一种基于置信度和词汇覆盖率的早期假设修剪方法，以提高代币效率。
  3. 实验结果表明，该方法在五个大型语言模型上实现了10-35%的代币效率提升。

📝 摘要（中文）

尽管自一致性方法简单有效，但其高代币消耗限制了其实际应用。本文探讨了如何通过早期假设修剪提高自一致性在长链推理任务中的代币效率，同时保持其并行性。具体而言，我们并行生成所有解决方案，但定期修剪基于两个轻量级指标被认为不必要的中间假设：模型对个别假设的自信度和当前假设的词汇覆盖率。我们设计了一种快速的加权集合覆盖算法，评估了五个大型语言模型在三个数学基准上的表现，结果显示该方法在许多情况下可以提高10-35%的代币效率。

🔬 方法详解

问题定义：本文旨在解决自一致性方法在长链推理任务中高代币消耗的问题。现有方法在生成和评估假设时，往往会产生大量不必要的中间假设，导致资源浪费。

核心思路：论文提出通过早期假设修剪来提高代币效率。具体而言，利用模型对假设的置信度和当前假设的词汇覆盖率来判断哪些假设可以被修剪，从而减少不必要的计算。

技术框架：整体架构包括并行生成所有解决方案的模块，以及定期评估和修剪中间假设的模块。修剪过程依赖于两个轻量级指标，确保在保留重要假设的同时减少计算负担。

关键创新：最重要的创新在于引入了置信度和词汇覆盖率这两个指标来指导假设的修剪。这一方法与传统的假设评估方式不同，能够在保持并行性的同时显著提高代币效率。

关键设计：在算法设计中，采用了加权集合覆盖算法，结合了置信度和词汇覆盖率的计算。具体的参数设置和损失函数设计尚未详细披露，需进一步研究。

📊 实验亮点

实验结果显示，采用该方法的五个大型语言模型在三个数学基准上均实现了10-35%的代币效率提升。这一显著的性能改进表明，早期假设修剪能够有效减少不必要的计算，提升模型的实用性。

🎯 应用场景

该研究的潜在应用场景包括自然语言处理中的长链推理任务，如数学问题求解和复杂推理任务。通过提高代币效率，该方法可以降低计算资源的消耗，使得大型语言模型在实际应用中更加高效和经济。未来，该技术可能会影响更多基于自一致性的方法，推动其在更广泛领域的应用。

📄 摘要（原文）

Despite its simplicity and efficacy, the high token expenditure of self-consistency can limit its practical utility. Here we investigate if self-consistency can be made more token-efficient for long chain-of-thought reasoning tasks, while preserving its parallelism, through early hypothesis pruning. Concretely, we generate all solutions in parallel, but periodically prune intermediate hypotheses that are deemed unnecessary based on two lightweight indicators: (a) the model's own confidence in individual hypotheses, and (b) lexical coverage of all current hypotheses by candidate subsets that are under consideration for continued retention. We design a fast weighted set cover algorithm that utilizes the two indicators; our evaluation of five LLMs on three math benchmarks shows that this method can improve token efficiency for all models, by 10-35% in many cases.