More Than Catastrophic Forgetting: Integrating General Capabilities For Domain-Specific LLMs

📄 arXiv: 2405.17830v2 📥 PDF

作者: Chengyuan Liu, Yangyang Kang, Shihang Wang, Lizhi Qing, Fubang Zhao, Changlong Sun, Kun Kuang, Fei Wu

分类: cs.CL

发布日期: 2024-05-28 (更新: 2024-10-02)

备注: Accepted by EMNLP 2024

💡 一句话要点

提出ALoRA，解决领域LLM通用能力集成难题，提升领域任务性能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 领域特定模型 灾难性遗忘 通用能力集成 注意力机制

📋 核心要点

  1. 领域LLM微调后通用能力下降，现有方法难以有效集成通用能力与领域知识。
  2. 提出ALoRA，利用多头注意力机制，使模型能动态切换领域知识和通用能力。
  3. 在法律领域任务上，ALoRA展现了显著的性能提升，验证了其有效性。

📝 摘要（中文）

大型语言模型(LLM)在特定领域任务上进行微调后，其通用任务性能会下降，这种现象被称为灾难性遗忘(Catastrophic Forgetting, CF)。然而，本文提出了领域特定LLM在实际应用中面临的更进一步的挑战，即通用能力集成(General Capabilities Integration, GCI)，它要求在单个实例中集成通用能力和领域知识。GCI的目标不仅仅是保留先前获得的通用能力以及新的领域知识，而是协调并以有凝聚力的方式利用这两组技能，以提高在特定领域任务上的性能。以法律领域为例，我们精心设计了三组具有实践意义的训练和测试任务，并构建了相应的数据集。为了更好地将通用能力融入特定领域场景，我们引入了ALoRA，它在LoRA的基础上利用多头注意力模块，促进了先前token到当前token的直接信息传递。这种增强允许表示根据注意力在特定领域知识和通用能力之间动态切换。在提出的任务上进行了广泛的实验。结果表明了我们设置的重要性以及我们方法的有效性。

🔬 方法详解

问题定义：领域特定的大型语言模型在微调后，往往会遇到灾难性遗忘的问题，即在特定领域任务上表现提升的同时，在通用任务上的性能显著下降。更进一步，实际应用中需要模型不仅保留通用能力，还要能将通用能力与领域知识有效结合，提升领域任务的性能。现有方法难以同时兼顾通用能力保留和领域知识应用，导致模型在复杂领域任务中表现不佳。

核心思路：本文的核心思路是通过引入注意力机制，使模型能够动态地在领域知识和通用能力之间切换。具体来说，模型可以根据输入token的上下文，决定是侧重于利用领域知识进行推理，还是利用通用能力进行辅助理解。这种动态切换的能力使得模型能够更好地处理需要同时具备领域知识和通用能力的复杂任务。

技术框架：ALoRA (Attention-based LoRA) 的整体框架是在LoRA的基础上，增加了一个多头注意力模块。LoRA用于高效地微调预训练语言模型，而多头注意力模块则用于实现领域知识和通用能力的动态融合。具体流程是：首先，输入token经过LoRA微调后的模型；然后，将LoRA的输出输入到多头注意力模块中，该模块根据输入token的上下文，计算不同头部的注意力权重；最后，将不同头部的输出加权融合，得到最终的表示。

关键创新：ALoRA的关键创新在于其多头注意力模块，该模块能够根据输入token的上下文，动态地调整不同头部对领域知识和通用能力的关注程度。与传统的LoRA方法相比，ALoRA能够更好地利用通用能力来提升领域任务的性能。与其他的注意力机制相比，ALoRA的多头注意力模块专门设计用于融合领域知识和通用能力，因此能够取得更好的效果。

关键设计：ALoRA的关键设计包括：1) 多头注意力模块的头部数量：实验中选择了合适的头部数量，以平衡模型的复杂度和性能；2) 注意力权重的计算方式：使用了标准的softmax函数来计算注意力权重；3) 损失函数：使用了交叉熵损失函数来训练模型，并加入了正则化项以防止过拟合。此外，还精心设计了训练数据集，以确保模型能够充分学习领域知识和通用能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，ALoRA在法律领域的三个任务上均取得了显著的性能提升。与基线模型相比，ALoRA在某些任务上的准确率提升了超过5%。这些结果验证了ALoRA在集成通用能力和提升领域任务性能方面的有效性。此外，实验还表明，ALoRA的性能优于传统的LoRA方法，证明了多头注意力模块的有效性。

🎯 应用场景

该研究成果可广泛应用于需要领域知识和通用能力相结合的场景，例如法律咨询、医疗诊断、金融分析等。通过集成通用能力，领域LLM可以更好地理解用户意图，提供更准确、更全面的服务。未来，该方法有望进一步扩展到其他领域，并与其他技术相结合，例如知识图谱、推理引擎等，以构建更强大的领域智能系统。

📄 摘要（原文）

The performance on general tasks decreases after Large Language Models (LLMs) are fine-tuned on domain-specific tasks, the phenomenon is known as Catastrophic Forgetting (CF). However, this paper presents a further challenge for real application of domain-specific LLMs beyond CF, called General Capabilities Integration (GCI), which necessitates the integration of both the general capabilities and domain knowledge within a single instance. The objective of GCI is not merely to retain previously acquired general capabilities alongside new domain knowledge, but to harmonize and utilize both sets of skills in a cohesive manner to enhance performance on domain-specific tasks. Taking legal domain as an example, we carefully design three groups of training and testing tasks without lacking practicability, and construct the corresponding datasets. To better incorporate general capabilities across domain-specific scenarios, we introduce ALoRA, which utilizes a multi-head attention module upon LoRA, facilitating direct information transfer from preceding tokens to the current one. This enhancement permits the representation to dynamically switch between domain-specific knowledge and general competencies according to the attention. Extensive experiments are conducted on the proposed tasks. The results exhibit the significance of our setting, and the effectiveness of our method.