Building Multilingual Bridges: Data Mixing as the Pillar of Generalization for In-Language Reasoning
作者: Mehrnaz Mofakhami, Ananya Sahu, Alejandro R. Salamanca, Daniel D'souza, Alexandre Berard, Thomas Euyang, Marzieh Fadaee, Julia Kreutzer
分类: cs.CL
发布日期: 2026-09-09
💡 一句话要点
提出数据混合方法以解决多语言推理问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多语言推理 数据混合 语言模型 跨语言适应 推理能力 机器学习 自然语言处理
📋 核心要点
- 现有推理模型主要集中在英语，导致非英语用户无法有效使用，且可能失去原问题的意图。
- 提出L2推理能力，使模型能够在用户提示的语言中进行推理，构建语言桥梁，优化数据组合与调度。
- Tiny Aya L2-Thinker模型在60种语言上实现93%以上的L2推理率，展示了推理的语言无关性和数据混合的有效性。
📝 摘要（中文）
推理语言模型在多种复杂任务上取得了显著进展，但其能力仍然以英语为中心，导致非英语用户无法访问。本文提出L2推理，即模型在用户提示的语言中进行一致推理，构建提示与答案之间的语言桥梁。通过优化数据组合和调度，构建了3.35B规模的Tiny Aya L2-Thinker模型，在60种语言的6个基准测试中实现了93%以上的L2推理率，同时保持了强劲的性能。研究表明，推理是一种语言无关的行为，可以通过精心的数据混合在不同语言间转移，而无需在每种目标语言中进行推理监督。
🔬 方法详解
问题定义：本文旨在解决现有推理模型在多语言环境中的局限性，尤其是其对非英语用户的可访问性不足。现有方法往往无法在用户提示的语言中进行有效推理，导致信息丢失和理解障碍。
核心思路：论文提出L2推理的概念，强调模型在用户提示语言中进行一致推理的能力。通过优化数据的组合和调度，增强模型的推理能力，使其能够跨语言进行有效的推理。
技术框架：整体架构包括数据收集、数据预处理、模型训练和评估等主要模块。通过构建一个3.35B参数的Tiny Aya L2-Thinker模型，进行多语言推理的训练和测试。
关键创新：最重要的创新在于通过数据混合实现了推理能力的跨语言转移，而不需要在每种目标语言中进行推理监督。这一方法显著提高了模型在多语言环境中的适应性。
关键设计：在模型训练中，采用了多样化的多语言非推理数据，结合强大的英语推理基础，确保模型在不同语言间的推理能力。同时，设计了有效的损失函数和参数设置，以优化模型的整体性能。
🖼️ 关键图片
📊 实验亮点
实验结果显示，Tiny Aya L2-Thinker模型在60种语言的6个基准测试中实现了93%以上的L2推理率，显著优于现有模型。这一成果表明，通过数据混合和优化，推理能力可以有效地跨语言转移，提升了模型的多语言适应性。
🎯 应用场景
该研究的潜在应用领域包括多语言客服系统、教育平台和跨文化交流工具等。通过提供更为广泛的语言支持，能够帮助非英语用户更好地获取信息和服务，提升用户体验。未来，该技术可能在全球范围内促进信息的无障碍传播与理解。
📄 摘要（原文）
Reasoning language models have made substantial advances on a variety of complex tasks, yet their capabilities remain overwhelmingly English-centric: models primarily reason in English regardless of the language they are prompted in. This is inaccessible for non-English-speaking users, risks losing the intent of the original question, and forgoes knowledge more readily expressed in the target language. In this work, we advance L2 reasoning, the ability of a model to reason consistently in the language of the user's prompt, thus building an in-language bridge between the prompt and the answer. We approach this problem from a data-centric angle, investigating how to optimize data composition and scheduling in SFT for reasoning generalization. Building Tiny Aya L2-Thinker at 3.35B scale, we achieve an L2 reasoning rate above 93% across 60 languages on 6 benchmarks spanning math, commonsense reasoning, instruction following, open-ended generation, and cultural reasoning while keeping performance strong. We show the path to generalizing L2 reasoning to held-out languages goes through broader language coverage, readily available multilingual non-reasoning data, and a sufficient English reasoning backbone. These findings indicate that reasoning is a language-agnostic behavior that can be transferred across typologically diverse languages through careful data mixing and without requiring reasoning supervision in every target language. We release our model weights and multilingual reasoning data to support further research on accessible, in-language reasoning.