LLMs Plagiarize: Ensuring Responsible Sourcing of Large Language Model Training Data Through Knowledge Graph Comparison

📄 arXiv: 2407.02659v2 📥 PDF

作者: Devam Mondal, Carlo Lipizzi

分类: cs.CL, cs.LG

发布日期: 2024-07-02 (更新: 2024-08-02)

💡 一句话要点

提出基于知识图谱比较的剽窃检测系统，用于评估LLM训练数据来源的合规性。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 剽窃检测 知识图谱 RDF三元组 图编辑距离

📋 核心要点

  1. 现有剽窃检测方法侧重于文本内容匹配，忽略了语义关系和结构相似性，难以有效检测LLM的潜在剽窃行为。
  2. 该论文提出一种基于知识图谱比较的剽窃检测方法，通过RDF三元组提取文档的知识图谱，并比较其内容和结构。
  3. 该方法无需访问LLM内部指标和训练数据，适用于评估封闭的“黑盒”LLM系统，具有更广泛的适用性。

📝 摘要（中文）

针对大型语言模型（LLM）开发者使用受版权保护的材料进行训练或微调而引发的法律诉讼，我们提出了一种新颖的系统，它是剽窃检测系统的一种变体，用于评估知识源是否被用于LLM的训练或微调。与现有方法不同，我们使用资源描述框架（RDF）三元组从源文档和LLM续写内容中创建知识图谱。然后，使用余弦相似度分析这些图谱的内容，并使用图编辑距离的归一化版本分析其结构，以显示同构程度。与传统剽窃系统侧重于源语料库和目标语料库之间的内容匹配和关键词识别不同，我们的方法通过关注思想之间的关系及其组织，能够更广泛、更准确地评估源文档和LLM续写内容之间的相似性。此外，我们的方法不需要访问LLM的困惑度等指标（这些指标在封闭的“黑盒”LLM系统中可能不可用）以及训练语料库。因此，我们通过相似性度量来评估LLM是否在其续写内容中“剽窃”了语料库。我们系统的原型可以在GitHub存储库中找到。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLM）训练数据来源的合规性问题，即判断LLM是否使用了受版权保护的语料库进行训练或微调，从而导致剽窃行为。现有方法主要集中在文本内容匹配和关键词识别，无法有效捕捉语义关系和结构相似性，对于LLM这种能够进行语义转换和改写的模型，检测效果不佳。此外，现有方法通常需要访问LLM的内部指标（如困惑度）和训练数据，这在封闭的“黑盒”LLM系统中是不可行的。

核心思路：论文的核心思路是将文本转换为知识图谱，通过比较源文档和LLM续写内容对应的知识图谱的相似性来判断是否存在剽窃行为。知识图谱能够更全面地表示文本的语义信息和结构关系，从而克服了传统方法仅关注文本内容匹配的局限性。通过比较知识图谱的内容相似度和结构相似度，可以更准确地评估LLM是否使用了源文档中的知识。

技术框架：该系统的整体框架包括以下几个主要阶段：1) 知识图谱构建：使用RDF三元组从源文档和LLM续写内容中提取实体和关系，构建知识图谱。2) 内容相似度计算：使用余弦相似度计算两个知识图谱中实体和关系的相似度，从而评估内容相似性。3) 结构相似度计算：使用图编辑距离的归一化版本计算两个知识图谱的结构相似度，从而评估结构相似性。4) 剽窃判断：根据内容相似度和结构相似度的综合评估结果，判断LLM是否剽窃了源文档。

关键创新：该论文的关键创新在于：1) 基于知识图谱的剽窃检测方法：将知识图谱引入剽窃检测领域，能够更全面地表示文本的语义信息和结构关系。2) 无需访问LLM内部指标和训练数据：该方法仅依赖于源文档和LLM续写内容，适用于评估封闭的“黑盒”LLM系统。3) 综合评估内容和结构相似度：通过同时考虑知识图谱的内容和结构相似度，提高了剽窃检测的准确性。

关键设计：1) RDF三元组提取：使用现有的自然语言处理工具（如命名实体识别和关系抽取）从文本中提取RDF三元组。2) 余弦相似度计算：使用预训练的词向量（如Word2Vec或GloVe）表示实体和关系，然后计算余弦相似度。3) 图编辑距离归一化：使用图编辑距离衡量两个知识图谱之间的结构差异，并进行归一化处理，使其取值范围在0到1之间。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文提出了基于知识图谱比较的剽窃检测系统，无需访问LLM内部指标和训练数据，适用于评估封闭的“黑盒”LLM系统。通过比较知识图谱的内容和结构相似度，能够更准确地检测LLM的潜在剽窃行为。论文提供了一个开源的系统原型，方便研究人员进行进一步的研究和应用。

🎯 应用场景

该研究成果可应用于评估大型语言模型训练数据的合规性，帮助版权所有者保护其知识产权。同时，该方法也可用于检测学术论文、新闻报道等文本的剽窃行为，维护学术诚信和新闻伦理。此外，该技术还可用于知识产权管理、内容审核等领域，具有广泛的应用前景。

📄 摘要（原文）

In light of recent legal allegations brought by publishers, newspapers, and other creators of copyrighted corpora against large language model developers who use their copyrighted materials for training or fine-tuning purposes, we propose a novel system, a variant of a plagiarism detection system, that assesses whether a knowledge source has been used in the training or fine-tuning of a large language model. Unlike current methods, we utilize an approach that uses Resource Description Framework (RDF) triples to create knowledge graphs from both a source document and an LLM continuation of that document. These graphs are then analyzed with respect to content using cosine similarity and with respect to structure using a normalized version of graph edit distance that shows the degree of isomorphism. Unlike traditional plagiarism systems that focus on content matching and keyword identification between a source and a target corpus, our approach enables a broader and more accurate evaluation of similarity between a source document and LLM continuation by focusing on relationships between ideas and their organization with regards to others. Additionally, our approach does not require access to LLM metrics like perplexity that may be unavailable in closed large language model "black-box" systems, as well as the training corpus. We thus assess whether an LLM has "plagiarized" a corpus in its continuation through similarity measures. A prototype of our system will be found on a hyperlinked GitHub repository.