AIDBench: A benchmark for evaluating the authorship identification capability of large language models

📄 arXiv: 2411.13226v1 📥 PDF

作者: Zichen Wen, Dadi Guo, Huishuai Zhang

分类: cs.CL

发布日期: 2024-11-20

备注: 21 pages, 7 figures

💡 一句话要点

AIDBench：评估大语言模型作者身份识别能力的基准

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 作者身份识别 大型语言模型 隐私风险 基准测试 检索增强生成

📋 核心要点

  1. 现有匿名系统面临LLM辅助作者身份识别的隐私挑战，匿名性受到威胁。
  2. 提出AIDBench基准，包含多种文本类型的作者身份识别数据集，并采用两种评估方法。
  3. 引入RAG方法增强LLM在长文本上的作者身份识别能力，并建立了新的基线。

📝 摘要（中文）

随着大型语言模型（LLMs）的快速发展并融入日常生活，它们带来的隐私风险正日益受到关注。本文关注一种特定的隐私风险，即LLMs可能帮助识别匿名文本的作者身份，这对匿名同行评审系统等现实系统中的匿名性有效性提出了挑战。为了研究这些风险，我们提出了AIDBench，这是一个新的基准，它整合了多个作者身份识别数据集，包括电子邮件、博客、评论、文章和研究论文。AIDBench采用两种评估方法：一对一作者身份识别，确定两个文本是否来自同一作者；一对多作者身份识别，给定一个查询文本和一个候选文本列表，识别最有可能由与查询文本相同作者撰写的候选文本。我们还引入了一种基于检索增强生成（RAG）的方法，以增强LLMs的大规模作者身份识别能力，尤其是在输入长度超过模型的上下文窗口时，从而为使用LLMs进行作者身份识别建立了一个新的基线。我们在AIDBench上的实验表明，LLMs可以以远高于随机概率的速率正确猜测作者身份，揭示了这些强大模型带来的新的隐私风险。源代码和数据将在接收后公开。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLMs）可能被用于识别匿名文本作者身份的问题。现有的匿名系统，如匿名评审系统，依赖于作者身份的隐藏。然而，LLMs的强大文本分析能力可能被滥用，从而威胁到这些系统的匿名性。现有的作者身份识别方法可能无法充分评估LLMs在这种场景下的能力，缺乏专门的基准测试。

核心思路：论文的核心思路是构建一个专门的基准测试数据集AIDBench，并设计相应的评估方法，以系统地评估LLMs在作者身份识别方面的能力。此外，论文还提出了一种基于检索增强生成（RAG）的方法，以提升LLMs在处理长文本时的作者身份识别性能。通过这种方式，可以更全面地了解LLMs带来的隐私风险，并为未来的研究提供参考。

技术框架：AIDBench包含多个作者身份识别数据集，涵盖电子邮件、博客、评论、文章和研究论文等多种文本类型。评估方法包括：1) 一对一作者身份识别：判断两个文本是否来自同一作者；2) 一对多作者身份识别：给定一个查询文本和一组候选文本，识别与查询文本作者相同的候选文本。此外，论文还引入了基于RAG的方法，该方法首先检索与输入文本相关的文档，然后利用LLM生成作者身份识别结果。整体流程包括数据准备、模型训练/微调（如果需要）、评估指标计算和结果分析。

关键创新：论文的关键创新在于：1) 构建了专门用于评估LLMs作者身份识别能力的基准测试数据集AIDBench；2) 提出了基于RAG的方法，有效提升了LLMs在处理长文本时的作者身份识别性能。与现有方法相比，AIDBench更全面地覆盖了不同类型的文本，并且RAG方法能够有效应对LLMs的上下文长度限制。

关键设计：在RAG方法中，关键设计包括：1) 使用合适的检索模型（例如，基于嵌入相似度的检索）来检索相关文档；2) 设计合适的prompt，引导LLM利用检索到的信息进行作者身份识别；3) 针对不同的数据集和LLMs，可能需要进行微调以获得最佳性能。具体的参数设置和损失函数取决于所使用的LLM和检索模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，LLMs在AIDBench上能够以远高于随机概率的准确率识别作者身份，揭示了LLMs带来的新的隐私风险。RAG方法的引入显著提升了LLMs在长文本上的作者身份识别能力，为未来的研究提供了新的基线。具体的性能数据（例如，准确率、召回率等）将在论文发表后公开。

🎯 应用场景

该研究成果可应用于评估和改进现有匿名系统的安全性，例如匿名评审系统、在线论坛等。通过AIDBench，可以更好地了解LLMs带来的隐私风险，并开发相应的防御机制，例如作者身份混淆技术。此外，该研究还可以促进LLM在安全和隐私领域的应用，例如用于检测恶意文本的作者。

📄 摘要（原文）

As large language models (LLMs) rapidly advance and integrate into daily life, the privacy risks they pose are attracting increasing attention. We focus on a specific privacy risk where LLMs may help identify the authorship of anonymous texts, which challenges the effectiveness of anonymity in real-world systems such as anonymous peer review systems. To investigate these risks, we present AIDBench, a new benchmark that incorporates several author identification datasets, including emails, blogs, reviews, articles, and research papers. AIDBench utilizes two evaluation methods: one-to-one authorship identification, which determines whether two texts are from the same author; and one-to-many authorship identification, which, given a query text and a list of candidate texts, identifies the candidate most likely written by the same author as the query text. We also introduce a Retrieval-Augmented Generation (RAG)-based method to enhance the large-scale authorship identification capabilities of LLMs, particularly when input lengths exceed the models' context windows, thereby establishing a new baseline for authorship identification using LLMs. Our experiments with AIDBench demonstrate that LLMs can correctly guess authorship at rates well above random chance, revealing new privacy risks posed by these powerful models. The source code and data will be made publicly available after acceptance.