Optimizing Multilingual LLMs via Federated Learning: A Study of Client Language Composition

📄 arXiv: 2603.24242v1 📥 PDF

作者: Aleix Sant, Jordi Luque, Carlos Escolano

分类: cs.CL

发布日期: 2026-03-25

备注: 12 pages, 4 figures, 5 tables

💡 一句话要点

通过联邦学习优化多语言LLM：客户端语言组成的影响研究

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 联邦学习 多语言LLM 客户端语言组成 动态提前停止 异构数据 低资源语言 指令调优

📋 核心要点

  1. 多语言LLM的联邦学习面临客户端语言分布不均和资源差异的挑战，影响模型性能和公平性。
  2. 提出客户端特定动态提前停止机制（LDES-FL），提升训练效率和可持续性，优化多语言LLM的联邦学习。
  3. 实验表明，客户端多语言性越高，联邦学习效果越好，尤其对低资源语言增益显著，但需更多优化步骤。

📝 摘要（中文）

本文研究了在多语言环境中，由于客户端之间语言分布不均和语言资源可用性差异，导致的大型语言模型(LLM)联邦学习(FL)所面临的重大挑战。为了应对这些挑战，我们扩展了FederatedScope-LLM框架，以支持LLM的多语言指令调优实验。我们还引入了一种新颖的客户端特定提前停止机制，即本地动态提前停止(LDES-FL)，它允许客户端根据客户端验证性能暂停和恢复本地训练，从而提高训练效率和可持续性。通过一系列实验，我们研究了客户端语言组成（从完全单语到日益多语的客户端）如何影响多语言质量、公平性和训练成本。单语本地微调对于单语专业化仍然是最有效的，而联邦训练更适合学习单个平衡的多语言模型。在FL中，增加客户端内的多语言性可以产生更强大和更公平的全局模型，缩小与集中式多语言微调的差距，并为较低资源语言带来最大的收益，但代价是需要更多的优化步骤。总的来说，我们的结果表明，客户端语言组成是多语言FL中的一个关键设计变量，它影响着性能、公平性和效率。

🔬 方法详解

问题定义：现有的多语言LLM联邦学习方法在客户端语言分布异构和资源不平衡的情况下，难以保证模型在所有语言上的性能和公平性。尤其是在低资源语言上，模型性能往往较差。此外，传统的联邦学习方法没有考虑客户端的个体差异，导致训练效率低下。

核心思路：本文的核心思路是通过研究客户端语言组成对多语言LLM联邦学习的影响，找到最佳的客户端语言组成策略，以提高模型在所有语言上的性能和公平性。同时，引入客户端特定的动态提前停止机制，根据客户端的验证性能动态调整训练过程，提高训练效率。

技术框架：本文基于FederatedScope-LLM框架进行扩展，支持多语言指令调优实验。整体框架包括多个客户端和一个服务器。每个客户端拥有自己的本地数据集，并进行本地训练。服务器负责聚合客户端的梯度或模型参数，并更新全局模型。关键模块包括：数据划分模块、本地训练模块、全局聚合模块和客户端特定动态提前停止模块。

关键创新：本文的关键创新在于提出了客户端特定的动态提前停止机制（LDES-FL）。与传统的全局提前停止策略不同，LDES-FL允许每个客户端根据自己的验证性能动态地暂停和恢复本地训练。这使得模型能够更好地适应客户端的个体差异，提高训练效率和模型性能。

关键设计：LDES-FL的关键设计在于提前停止的判断标准。每个客户端维护一个验证集，并在每个训练轮次后计算验证集上的损失。如果验证损失在连续若干轮次内没有显著下降，则客户端暂停本地训练。当服务器更新全局模型后，客户端恢复本地训练。具体参数包括：验证集大小、连续无显著下降的轮次数、显著下降的阈值等。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，增加客户端内的多语言性可以显著提高全局模型的性能和公平性，尤其是在低资源语言上。与单语本地微调相比，联邦学习更适合学习平衡的多语言模型。LDES-FL机制能够有效提高训练效率，减少不必要的计算资源消耗。在某些情况下，联邦学习可以达到甚至超过集中式多语言微调的性能。

🎯 应用场景

该研究成果可应用于跨国公司、多语言客户服务、全球教育平台等领域，提升多语言LLM在各种语言环境下的性能和用户体验。通过优化客户端语言组成和训练策略，可以构建更公平、高效的多语言AI系统，促进全球范围内的信息交流和知识共享。

📄 摘要（原文）

Federated Learning (FL) of Large Language Models (LLMs) in multilingual environments presents significant challenges stemming from heterogeneous language distributions across clients and disparities in language resource availability. To address these challenges, we extended the FederatedScope-LLM framework to support multilingual instruction-tuning experiments with LLMs. We also introduced a novel client-specific early stopping mechanism, Local Dynamic Early Stopping (LDES-FL), which allows clients to pause and resume local training based on client-side validation performance, enhancing training efficiency and sustainability. Through a series of experiments, we studied how client language composition - from fully monolingual to increasingly multilingual clients - affects multilingual quality, fairness and training cost. Monolingual local fine-tuning remains the most effective for single-language specialization, whereas federated training is better suited to learning a single balanced multilingual model. In FL, increasing within-client multilinguality leads to stronger and fairer global models, narrows the gap to centralized multilingual fine-tuning, and yields the largest gains for lower-resource languages, albeit at the cost of more optimization steps. Overall, our results identify client language composition as a key design variable in multilingual FL, shaping performance, fairness and efficiency