Fine-Tuning LLMs for Translation: General Forgetting Mitigation Does Not Preserve MT-Specific Instruction Following

📄 arXiv: 2609.28395v1 📥 PDF

作者: Niklas Scholz, David Thulke, Abdallah Nasir, Will Allred, Evgeny Matusov, Hermann Ney

分类: cs.CL, cs.LG

发布日期: 2026-09-23

备注: Accepted at WMT 2026

💡 一句话要点

提出针对翻译的LLM微调方法以解决遗忘问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 机器翻译 微调技术 灾难性遗忘 弹性权重整合 数据混合 特定指令执行 翻译质量提升

📋 核心要点

  1. 现有的微调方法在提高翻译质量的同时，可能导致模型的灾难性遗忘，影响特定指令的执行能力。
  2. 本文提出通过弹性权重整合和数据混合的方法来缓解遗忘问题，特别关注机器翻译特定指令的执行。
  3. 实验结果表明，弹性权重整合在保留一般能力方面优于标准微调，而数据混合方法在特定控制任务上表现良好。

📝 摘要（中文）

对大型语言模型进行微调以提高翻译质量，但可能导致灾难性遗忘。现有的缓解方法通常通过在一般基准上的保留率进行评估。本文探讨这些发现是否适用于机器翻译微调及机器翻译特定指令跟随。通过对比不同方法，发现弹性权重整合在保留一般能力方面表现最佳，而数据混合方法能够保持特定控制任务的效果，但其提升未能转移到未见的任务提示上。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在机器翻译微调过程中出现的灾难性遗忘问题，现有方法在保留特定指令执行能力方面存在不足。

核心思路：通过引入弹性权重整合和数据混合的方法，旨在同时提高翻译质量和保留模型的特定能力，尤其是对翻译指令的遵循。

技术框架：研究首先在Llama 3.2 1B Instruct模型上进行筛选研究，随后在Llama 3.1 8B Instruct模型上进行微调，使用双向阿拉伯语-英语或西班牙语-英语数据。主要模块包括模型微调、能力保留评估和控制任务的执行。

关键创新：弹性权重整合在两个阶段中均表现出最佳的能力保留效果，尤其是在西班牙语模型上，显著减少了在一般基准上的分数下降幅度。

关键设计：在微调过程中，采用了特定的损失函数和参数设置，以确保模型在保留一般能力的同时，能够有效执行特定的翻译控制任务。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，弹性权重整合在保留一般能力方面的平均分数下降仅为1.7分，而标准微调则为11.0分。尽管在特定控制任务（如形式、语法性别控制）上，弹性权重整合的表现接近标准微调，但数据混合方法在这些控制任务上表现更佳。

🎯 应用场景

该研究的潜在应用领域包括机器翻译系统、智能助手和多语言处理平台。通过提高模型在特定指令下的执行能力，能够显著提升用户体验和翻译质量，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Fine-tuning large language models on parallel data improves translation quality but can cause catastrophic forgetting. Mitigation methods are generally evaluated by retention on general benchmarks. We ask whether these findings transfer to machine translation (MT) fine-tuning and to MT-specific instruction following (MT-IF): instructions that modify a translation, such as formality, grammatical gender, and length control. We compare methods anchored to auxiliary data, to model outputs, and to the base model parameters, first in a screening study with Llama 3.2 1B Instruct, then on Llama 3.1 8B Instruct fine-tuned on bidirectional Arabic-English or Spanish-English data. Elastic Weight Consolidation preserves general capabilities best in both stages; on the 8B Spanish model the average score on general benchmarks drops 1.7 points versus 11.0 for standard fine-tuning, yet its scores for formality and grammatical gender control remain close to standard fine-tuning. Only data mixing with control-task examples preserves these controls, but its gains do not transfer to unseen prompts for the same task.