Multi-SFT: Permissively-Licensed Multilingual Instruction-Following

📄 arXiv: 2610.22086v1 📥 PDF

作者: Daniela Baiamonte, Kamyar Zeinalipour, Elena Fano, Stefano Simonazzi, Andrea Zugarini

分类: cs.CL, cs.AI

发布日期: 2026-10-15

备注: 13 pages, 7 tables

💡 一句话要点

提出Multi-SFT以解决多语言指令跟随数据集不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多语言处理 指令跟随 数据集构建 商业许可 自然语言处理 模型微调 安全性任务

📋 核心要点

  1. 现有的监督微调数据集主要集中在英语，导致多语言指令跟随任务的研究受到限制。
  2. Multi-SFT通过翻译和再生管道构建了一个包含502,818个指令-响应对的多语言数据集，解决了数据集的商业许可问题。
  3. 实验结果表明，使用Multi-SFT微调的模型在多个基准测试中表现出色，尤其在安全性任务上具有显著优势。

📝 摘要（中文）

现有的监督微调数据集主要集中在英语，并且通常受到商业限制，因为其内容常由禁止训练竞争系统的专有模型生成。为此，本文提出了Multi-SFT，这是一个包含502,818个跨五种欧洲语言的指令-响应对的商业许可数据集，采用翻译和再生管道构建，适用于翻译不足的任务。人类评估显示，所有数据集和语言的标注者间一致性至少为0.87。对来自三种不同模型家族（EuroLLM、OLMo 2、Qwen3；1B-32B）的九个模型进行微调，并在13个基准上进行评估，结果表明，仅使用Multi-SFT的数据集在性能上与更大规模的增强混合数据集和官方指令调优版本相当，并在安全性任务上具有明显优势。

🔬 方法详解

问题定义：现有的监督微调数据集主要集中在英语，且常常受到商业限制，限制了多语言指令跟随任务的研究和应用。

核心思路：本文提出Multi-SFT数据集，通过翻译和再生管道构建多语言指令-响应对，旨在提供一个商业许可的数据集，促进多语言模型的训练和评估。

技术框架：Multi-SFT的数据集构建包括翻译和再生两个主要模块，首先进行指令的翻译，然后通过再生管道生成响应，确保数据的多样性和质量。

关键创新：Multi-SFT的最大创新在于其商业许可的性质，使得研究人员可以自由使用该数据集进行模型训练，而不受现有专有模型的限制。

关键设计：在数据集构建过程中，采用了高质量的翻译算法和人类评估机制，确保了数据集的准确性和一致性，标注者间一致性达到0.87以上。实验中微调的模型涵盖了不同规模和架构，以验证Multi-SFT的有效性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，使用Multi-SFT微调的模型在13个基准测试中表现出色，尤其在安全性任务上具有明显优势。与更大规模的增强混合数据集相比，Multi-SFT的数据集在性能上具有竞争力，证明了其有效性和实用性。

🎯 应用场景

Multi-SFT数据集的构建为多语言指令跟随任务提供了丰富的训练资源，适用于自然语言处理、机器翻译和跨语言对话系统等领域。其商业许可的特性使得研究人员和开发者能够在不受限制的情况下进行创新，推动多语言AI系统的发展。

📄 摘要（原文）

Supervised fine-tuning datasets remain overwhelmingly English-centric and commercially restricted, as their content is frequently generated by proprietary models whose terms of service forbid training competing systems. We introduce Multi-SFT, a commercially permissive collection of 502,818 instruction-response pairs across five European languages, built via translation and regeneration pipelines for tasks where translation is insufficient. Human evaluation yields inter-annotator agreement of at least 0.87 across all datasets and languages. Fine-tuning nine models from three different families (EuroLLM, OLMo 2, Qwen3; 1B-32B) and evaluating them on 13 benchmarks shows that Multi-SFT alone is competitive with larger augmented mixes and official instruction-tuned releases, with decisive advantages on safety tasks.