Can AI-Generated Persuasion Be Detected? Persuaficial Benchmark and AI vs. Human Linguistic Differences

📄 arXiv: 2601.04925v1 📥 PDF

作者: Arkadiusz Modzelewski, Paweł Golik, Anna Kołos, Giovanni Da San Martino

分类: cs.CL

发布日期: 2026-01-08

备注: Preprint; Paper is currently under review at a major NLP conference

💡 一句话要点

提出Persuaficial基准，研究AI生成说服文本的可检测性及语言差异

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI生成文本检测 说服性文本 大型语言模型 多语种基准 语言学分析

📋 核心要点

  1. 现有方法难以有效区分人类撰写和AI生成的微妙说服性文本，为恶意利用LLM进行操纵带来了挑战。
  2. 论文提出Persuaficial多语种基准，并分析人类与LLM生成说服文本的语言差异，以提升检测性能。
  3. 实验表明，微妙的LLM生成说服文本会降低自动检测性能，并提供了人类与LLM生成文本的语言学差异分析。

📝 摘要（中文）

大型语言模型（LLMs）能够生成极具说服力的文本，引发了对其被滥用于宣传、操纵和其他有害目的的担忧。本文旨在探讨一个核心问题：与人类撰写的说服性文本相比，自动检测LLM生成的说服性文本是否更困难？为了解决这个问题，我们对使用LLM生成说服性内容的可控生成方法进行了分类，并提出了Persuaficial，这是一个高质量的多语种基准，涵盖六种语言：英语、德语、波兰语、意大利语、法语和俄语。基于此基准，我们进行了广泛的实证评估，比较了人类撰写和LLM生成的说服性文本。研究发现，虽然过度说服性的LLM生成文本可能比人类撰写的文本更容易检测，但微妙的LLM生成说服性文本会持续降低自动检测性能。除了检测性能之外，我们还首次对人类和LLM生成的说服性文本进行了全面的语言分析，为开发更具可解释性和鲁棒性的检测工具提供了见解。

🔬 方法详解

问题定义：论文旨在解决LLM生成的说服性文本是否比人类撰写的更难被自动检测的问题。现有方法在检测微妙的LLM生成说服性文本时表现不佳，这使得恶意行为者可以利用LLM进行更有效的操纵和宣传。现有方法缺乏一个高质量的多语种基准来评估和比较不同方法在检测LLM生成说服性文本方面的性能。

核心思路：论文的核心思路是构建一个高质量的多语种基准（Persuaficial），并利用该基准对人类撰写和LLM生成的说服性文本进行全面的比较分析。通过分析两者的语言学差异，可以更好地理解LLM生成说服性文本的特点，从而开发更有效的检测方法。论文认为，通过控制LLM生成过程，可以生成不同程度的说服性文本，从而更全面地评估检测方法的性能。

技术框架：论文的技术框架主要包括以下几个部分：1) 对LLM生成说服性内容的可控生成方法进行分类；2) 构建Persuaficial多语种基准，涵盖六种语言；3) 使用Persuaficial基准，对人类撰写和LLM生成的说服性文本进行实证评估；4) 对人类和LLM生成的说服性文本进行全面的语言分析。

关键创新：论文的关键创新在于：1) 提出了Persuaficial，一个高质量的多语种基准，用于评估LLM生成说服性文本的检测性能；2) 首次对人类和LLM生成的说服性文本进行了全面的语言分析，揭示了两者之间的语言学差异；3) 对LLM生成说服性内容的可控生成方法进行了分类。与现有方法相比，Persuaficial基准提供了更全面和更具挑战性的评估环境，可以更好地评估检测方法在实际应用中的性能。

关键设计：Persuaficial基准包含六种语言：英语、德语、波兰语、意大利语、法语和俄语。论文使用了多种LLM生成方法，包括提示工程和微调，以生成不同程度的说服性文本。在语言分析方面，论文使用了多种语言学特征，包括词汇、句法和语义特征，来比较人类和LLM生成的说服性文本。具体的参数设置、损失函数和网络结构等技术细节未在摘要中详细说明，属于未知信息。

📊 实验亮点

实验结果表明，虽然过度说服性的LLM生成文本可能比人类撰写的文本更容易检测，但微妙的LLM生成说服性文本会持续降低自动检测性能。论文还提供了人类与LLM生成文本的语言学差异分析，为开发更具可解释性和鲁棒性的检测工具提供了指导。

🎯 应用场景

该研究成果可应用于检测和防范AI生成的内容被用于恶意宣传、舆论操纵等场景。通过提升对AI生成说服性文本的识别能力，可以帮助用户识别虚假信息，维护网络安全，并促进负责任的AI技术发展。未来，该研究可扩展到其他类型的AI生成内容检测，例如虚假新闻、深度伪造等。

📄 摘要（原文）

Large Language Models (LLMs) can generate highly persuasive text, raising concerns about their misuse for propaganda, manipulation, and other harmful purposes. This leads us to our central question: Is LLM-generated persuasion more difficult to automatically detect than human-written persuasion? To address this, we categorize controllable generation approaches for producing persuasive content with LLMs and introduce Persuaficial, a high-quality multilingual benchmark covering six languages: English, German, Polish, Italian, French and Russian. Using this benchmark, we conduct extensive empirical evaluations comparing human-authored and LLM-generated persuasive texts. We find that although overtly persuasive LLM-generated texts can be easier to detect than human-written ones, subtle LLM-generated persuasion consistently degrades automatic detection performance. Beyond detection performance, we provide the first comprehensive linguistic analysis contrasting human and LLM-generated persuasive texts, offering insights that may guide the development of more interpretable and robust detection tools.