Gradient Localization Improves Lifelong Pretraining of Language Models

📄 arXiv: 2411.04448v1 📥 PDF

作者: Jared Fernandez, Yonatan Bisk, Emma Strubell

分类: cs.CL

发布日期: 2024-11-07

备注: EMNLP Findings 2024

💡 一句话要点

提出梯度定位方法，提升语言模型终身预训练效果

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 终身学习 持续学习 梯度定位 语言模型 灾难性遗忘

📋 核心要点

  1. 现有持续学习方法忽略了知识在语言模型中的局部性，导致新知识学习受阻和旧知识遗忘。
  2. 该论文提出梯度定位方法，通过关注梯度范数较大的层来进行参数更新，从而提升终身预训练效果。
  3. 实验表明，该方法在包含时间漂移的语言上进行持续预训练时，能够有效提高模型性能。

📝 摘要（中文）

大型语言模型（LLM）在网络规模的文本语料库上训练后，已被证明能够在其参数中捕获世界知识。然而，语言模型存储不同类型知识的机制尚不清楚。本文研究了与时间敏感实体相关的两种知识，并证明每种知识都定位于LLM中不同的参数集合。我们假设，现有持续学习方法缺乏对知识局部性的考虑，导致了新信息的吸收失败和先前学习信息的灾难性遗忘。我们观察到，包含对更新和新提及实体的引用的序列在部分层中表现出更大的梯度范数。我们证明，将参数更新定向到这些相关层可以提高在包含时间漂移的语言上持续预训练的性能。

🔬 方法详解

问题定义：现有的大型语言模型在持续学习或终身学习过程中，面临着灾难性遗忘的问题，即在学习新知识时，会忘记之前学习的知识。现有的持续学习方法通常采用全局更新策略，忽略了不同类型的知识可能存储在模型的不同参数子集中。因此，如何有效地更新模型参数，使其既能学习新知识，又能保留旧知识，是一个重要的挑战。

核心思路：该论文的核心思路是利用梯度定位来确定与特定知识相关的模型参数。作者观察到，当模型遇到包含新知识或更新知识的文本时，某些特定层会产生更大的梯度范数。因此，通过选择性地更新这些梯度范数较大的层，可以更有效地学习新知识，并减少对旧知识的干扰。

技术框架：该方法主要包含以下几个步骤：1）使用包含时间漂移的文本数据对语言模型进行持续预训练。2）在训练过程中，计算每个层对特定样本的梯度范数。3）选择梯度范数较大的层作为需要更新的层。4）仅更新选定的层中的参数，而保持其他层的参数不变。

关键创新：该论文的关键创新在于提出了梯度定位的概念，并将其应用于持续学习中。与传统的全局更新方法不同，该方法能够根据知识的局部性，选择性地更新模型参数，从而更有效地学习新知识，并减少灾难性遗忘。

关键设计：论文的关键设计包括：1）梯度范数的计算方式：作者使用了L2范数来衡量每个层的梯度大小。2）层的选择策略：作者选择梯度范数大于某个阈值的层进行更新。3）实验中使用的语言模型：具体模型未知，但适用于大型语言模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

该论文通过实验证明，梯度定位方法能够有效提高语言模型在包含时间漂移的语言上的持续预训练性能。具体提升幅度未知，但该方法优于传统的全局更新方法，能够更好地学习新知识，并减少灾难性遗忘。实验结果表明，知识确实是局部化的，并且可以通过梯度信息来定位。

🎯 应用场景

该研究成果可应用于需要持续学习的语言模型，例如：新闻摘要生成、对话系统、知识图谱更新等。通过梯度定位，模型可以更好地适应不断变化的世界知识，并提供更准确、更及时的信息服务。未来，该方法可以扩展到其他类型的知识和任务，进一步提升语言模型的终身学习能力。

📄 摘要（原文）

Large Language Models (LLMs) trained on web-scale text corpora have been shown to capture world knowledge in their parameters. However, the mechanism by which language models store different types of knowledge is poorly understood. In this work, we examine two types of knowledge relating to temporally sensitive entities and demonstrate that each type is localized to different sets of parameters within the LLMs. We hypothesize that the lack of consideration of the locality of knowledge in existing continual learning methods contributes to both: the failed uptake of new information, and catastrophic forgetting of previously learned information. We observe that sequences containing references to updated and newly mentioned entities exhibit larger gradient norms in a subset of layers. We demonstrate that targeting parameter updates to these relevant layers can improve the performance of continually pretraining on language containing temporal drift.