FAID: Fine-Grained AI-Generated Text Detection Using Multi-Task Auxiliary and Multi-Level Contrastive Learning

📄 arXiv: 2505.14271v2 📥 PDF

作者: Minh Ngoc Ta, Dong Cao Van, Duc-Anh Hoang, Minh Le-Anh, Truong Nguyen, My Anh Tran Nguyen, Yuxia Wang, Preslav Nakov, Sang Dinh

分类: cs.CL

发布日期: 2025-05-20 (更新: 2025-10-07)

💡 一句话要点

FAID：利用多任务辅助和多层次对比学习进行细粒度AI生成文本检测

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: AI生成文本检测 细粒度分类 多任务学习 对比学习 文体特征 领域泛化 自然语言处理

📋 核心要点

  1. 现有AI生成文本检测方法难以区分人类、LLM生成和人机协作文本，泛化性不足。
  2. FAID框架通过多任务辅助分类和多层次对比学习，捕捉作者身份和模型特有的文体特征。
  3. 实验表明，FAID在未见领域和LLM上表现优异，提升了AI辅助写作的透明性和责任性。

📝 摘要（中文）

在生成任务中，人类与AI模型的合作日益增多，这给区分人类撰写、LLM生成以及人-LLM协作的文本带来了新的挑战。本文构建了一个多语言、多领域、多生成器的FAIDSet数据集。此外，我们还提出了一个细粒度检测框架FAID，用于将文本分类为这三种类别，并识别生成器的底层LLM家族。与现有的二元分类器不同，FAID旨在捕捉作者身份和模型特定的特征。我们的方法结合了多层次对比学习和多任务辅助分类，以学习细微的文体线索。通过将LLM家族建模为不同的文体实体，我们引入了一种自适应方法来解决分布偏移问题，而无需对未见过的数据进行重新训练。实验结果表明，FAID优于多个基线，特别是在提高未见领域和新LLM上的泛化准确性方面，从而为提高AI辅助写作的透明度和责任性提供了一种潜在的解决方案。

🔬 方法详解

问题定义：论文旨在解决细粒度的AI生成文本检测问题，即区分人类撰写、LLM生成以及人-LLM协作的文本，并识别生成文本的LLM家族。现有方法通常是二元分类器，无法区分这三种文本类型，且在未见领域和LLM上的泛化能力较差。

核心思路：论文的核心思路是通过学习文本的文体特征来区分不同类型的文本。具体来说，将LLM家族建模为不同的文体实体，利用多任务学习和对比学习来捕捉这些细微的文体线索。通过这种方式，模型可以更好地泛化到未见领域和LLM。

技术框架：FAID框架包含以下主要模块：1) 文本编码器：将输入文本编码为向量表示。2) 多任务辅助分类器：预测文本的类别（人类、LLM、人机协作）和LLM家族。3) 多层次对比学习模块：通过对比学习，学习不同类型文本之间的文体差异。整体流程是，首先使用文本编码器将输入文本编码为向量表示，然后将该向量表示输入到多任务辅助分类器和多层次对比学习模块中，最后根据分类器和对比学习模块的输出进行预测。

关键创新：论文的关键创新点在于：1) 提出了一个细粒度的AI生成文本检测框架，可以区分人类、LLM生成和人机协作文本，并识别生成文本的LLM家族。2) 结合了多任务辅助分类和多层次对比学习，以学习细微的文体线索。3) 引入了一种自适应方法来解决分布偏移问题，而无需对未见过的数据进行重新训练。

关键设计：在多任务辅助分类器中，使用了交叉熵损失函数来训练分类器。在多层次对比学习模块中，使用了InfoNCE损失函数来训练模型。文本编码器可以使用预训练的语言模型，例如BERT或RoBERTa。为了解决分布偏移问题，论文引入了一种基于领域对抗训练的自适应方法。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

FAID在FAIDSet数据集上进行了评估，实验结果表明，FAID优于多个基线模型，特别是在未见领域和新LLM上的泛化准确性方面有显著提升。例如，在跨领域检测任务中，FAID的准确率比最佳基线提高了5%以上。这表明FAID能够有效地捕捉文本的文体特征，并具有良好的泛化能力。

🎯 应用场景

该研究成果可应用于内容审核、学术诚信检测、新闻真实性验证等领域。通过准确识别AI生成的文本，可以有效防止虚假信息的传播，维护网络空间的健康秩序，并提高AI辅助写作的透明度和责任性。未来，该技术可进一步应用于自动化内容生成质量评估，辅助人类更好地利用AI技术。

📄 摘要（原文）

The growing collaboration between humans and AI models in generative tasks has introduced new challenges in distinguishing between human-written, LLM-generated, and human--LLM collaborative texts. In this work, we collect a multilingual, multi-domain, multi-generator dataset FAIDSet. We further introduce a fine-grained detection framework FAID to classify text into these three categories, and also to identify the underlying LLM family of the generator. Unlike existing binary classifiers, FAID is built to capture both authorship and model-specific characteristics. Our method combines multi-level contrastive learning with multi-task auxiliary classification to learn subtle stylistic cues. By modeling LLM families as distinct stylistic entities, we incorporate an adaptation to address distributional shifts without retraining for unseen data. Our experimental results demonstrate that FAID outperforms several baselines, particularly enhancing the generalization accuracy on unseen domains and new LLMs, thus offering a potential solution for improving transparency and accountability in AI-assisted writing.