Less Languages, Less Tokens: An Efficient Unified Logic Cross-lingual Chain-of-Thought Reasoning Framework

📄 arXiv: 2604.20090v1 📥 PDF

作者: Chenyuan Zhang, Qiguang Chen, Xie Chen, Zhuotao Tian, Bowen Xing, Meishan Zhang, Libo Qin, Baotian Hu, Min Zhang

分类: cs.CL

发布日期: 2026-04-22

备注: Accepted by ACL2026 Main

💡 一句话要点

提出UL-XCoT框架，通过减少语言和token数量提升跨语言CoT推理效率。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 跨语言推理 思维链 多语言模型 效率优化 低资源语言

📋 核心要点

  1. 现有跨语言思维链（XCoT）方法因需跨多种语言进行大量采样而成本高昂。
  2. UL-XCoT框架通过在统一逻辑空间中选择少量语言，并剪枝低质量推理路径来减少token使用。
  3. 实验表明，UL-XCoT在保持竞争力的准确率的同时，显著降低了token成本，并在低资源语言上表现出更强的鲁棒性。

📝 摘要（中文）

本文提出了一种高效的统一逻辑跨语言推理框架UL-XCoT，旨在最小化token使用冗余和延迟，从而在有限的采样预算下实现最高的推理效率。UL-XCoT通过以下方式实现：（1）为每个查询在语言不变的统一逻辑空间中选择一个小的候选语言集，从而减少语言数量；（2）通过在解码过程中监控逻辑空间轨迹动态来剪枝低质量的推理路径，从而减少token数量；（3）通过投票聚合剩余的高质量轨迹。在PolyMath（18种语言）和MMLU-ProX-Lite（29种语言）上使用DeepSeek-R1-DistillQwen-7B进行的实验表明，UL-XCoT在实现具有竞争力的准确率的同时，相比之前的采样基线，显著降低了超过50%的解码token成本。UL-XCoT还在低资源语言上实现了更稳定的收益，突出了其在标准XCoT自洽方法失败时的持续优越的鲁棒性。

🔬 方法详解

问题定义：现有的跨语言思维链（XCoT）方法，为了提升多语言推理能力，通常需要对多种语言的完整推理轨迹进行大量采样。这导致了巨大的计算成本和延迟，尤其是在资源有限的情况下。此外，不同语言在多语言LLM中的表示存在显著差异，这使得直接比较特征和有效剪枝变得困难。因此，如何降低XCoT的计算成本，同时保持甚至提升其推理性能，是一个重要的挑战。

核心思路：UL-XCoT的核心思路是通过减少语言数量和token数量来提高推理效率。具体来说，它首先在统一的逻辑空间中选择一个小的候选语言集，从而避免对所有语言进行采样。然后，在解码过程中，它会监控逻辑空间轨迹的动态，并剪枝那些质量较低的推理路径，从而减少token的使用。最后，它通过投票的方式聚合剩余的高质量轨迹，以获得最终的推理结果。

技术框架：UL-XCoT框架主要包含三个阶段：（1）语言选择：将不同语言的表示映射到统一的逻辑空间，并基于查询选择一个小的候选语言集。（2）轨迹剪枝：在解码过程中，监控逻辑空间轨迹的动态，并根据预定义的指标（例如，置信度、一致性）剪枝低质量的推理路径。（3）结果聚合：通过投票的方式聚合剩余的高质量轨迹，以获得最终的推理结果。

关键创新：UL-XCoT最重要的创新点在于它首次提出了一个统一的逻辑跨语言推理框架，该框架能够在保证推理性能的同时，显著降低计算成本。与现有的XCoT方法相比，UL-XCoT不需要对所有语言进行采样，也不需要生成完整的推理轨迹，从而大大减少了token的使用和延迟。

关键设计：在语言选择阶段，论文可能使用了某种度量学习方法，将不同语言的表示映射到统一的逻辑空间。轨迹剪枝阶段，可能使用了基于置信度或一致性的指标来评估推理路径的质量。结果聚合阶段，可能使用了加权投票的方式，根据推理路径的质量来调整投票权重。具体的参数设置、损失函数和网络结构等技术细节未知，需要查阅论文原文。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，UL-XCoT在PolyMath（18种语言）和MMLU-ProX-Lite（29种语言）数据集上，使用DeepSeek-R1-DistillQwen-7B模型，在保持竞争力的准确率的同时，相比之前的采样基线，显著降低了超过50%的解码token成本。此外，UL-XCoT在低资源语言上实现了更稳定的收益，表明其具有更强的鲁棒性。

🎯 应用场景

UL-XCoT框架可应用于需要多语言推理的各种场景，例如跨语言问答、机器翻译、多语言信息检索等。该框架能够显著降低计算成本，提高推理效率，尤其适用于资源受限的设备或需要快速响应的应用。此外，UL-XCoT在低资源语言上的鲁棒性使其在处理小语种问题时具有优势。

📄 摘要（原文）

Cross-lingual chain-of-thought (XCoT) with self-consistency markedly enhances multilingual reasoning, yet existing methods remain costly due to extensive sampling of full trajectories across languages. Moreover, multilingual LLM representations vary strongly by language, hindering direct feature comparisons and effective pruning. Motivated by this, we introduce UL-XCoT, the first efficient unified logic cross-lingual reasoning framework that minimizes redundancy in token usage and latency, yielding the greatest efficiency under limited sampling budgets during inference. Specifically, UL-XCoT (1) achieves less languages by selecting, per query, a small candidate language set in a language-invariant unified logic space, (2) enables less tokens by monitoring logic-space trajectory dynamics during decoding to prune low-quality reasoning paths, and (3) aggregates the remaining high-quality trajectories via voting. Experiments on PolyMath across 18 languages and MMLU-ProX-Lite across 29 languages with DeepSeek-R1-DistillQwen-7B demonstrate that UL-XCoT achieves competitive accuracy while sharply cutting over 50% decoding token cost versus prior sampling baselines. UL-XCoT also delivers more stable gains on low-resource languages, underscoring consistently superior robustness where standard XCoT self-consistency method fails.