Assessing Deanonymization Risks with Stylometry-Assisted LLM Agent

📄 arXiv: 2602.23079 📥 PDF

作者: Boyang Zhang, Yang Zhang

分类: cs.CL, cs.CR, cs.LG

发布日期: 2026-02-28

💡 一句话要点

提出SALA框架，利用文体学特征辅助LLM代理评估和降低文本数据中的去匿名化风险。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 去匿名化 文体学分析 作者身份推断 隐私保护

📋 核心要点

  1. 现有方法难以有效评估和降低LLM带来的文本去匿名化风险，缺乏透明性和可解释性。
  2. 提出SALA框架，结合文体学特征和LLM推理，实现稳健且可解释的作者身份归属。
  3. 实验表明，SALA在各种场景下均能实现较高的推理准确率，并能有效降低作者身份的可识别性。

📝 摘要（中文）

大型语言模型（LLMs）的快速发展带来了强大的作者身份推断能力，引发了对新闻文章等文本数据中意外去匿名化风险的日益关注。本文介绍了一种LLM代理，旨在通过结构化、可解释的流程来评估和降低此类风险。该框架的核心是提出的$ extit{SALA}$（Stylometry-Assisted LLM Analysis）方法，该方法将定量文体学特征与LLM推理相结合，以实现稳健且透明的作者身份归属。在大型新闻数据集上的实验表明，$ extit{SALA}$，特别是在使用数据库模块进行增强时，在各种场景中都实现了较高的推理准确率。最后，我们提出了一种引导式重构策略，该策略利用代理的推理轨迹来生成重写提示，从而有效地降低作者身份的可识别性，同时保留文本含义。我们的研究结果突出了LLM代理的去匿名化潜力，以及用于保护作者隐私的可解释、主动防御的重要性。

🔬 方法详解

问题定义：论文旨在解决大型语言模型（LLMs）在文本数据中带来的去匿名化风险评估问题。现有的方法可能无法充分利用文本的文体学特征，导致去匿名化风险评估不准确，并且缺乏可解释性，难以指导有效的防御措施。

核心思路：论文的核心思路是将定量文体学特征与LLM的推理能力相结合，构建一个名为SALA（Stylometry-Assisted LLM Analysis）的框架。通过文体学特征提取，可以量化作者的写作风格，然后利用LLM进行推理，判断文本是否可以被识别出作者身份。这种结合的方式旨在提高去匿名化风险评估的准确性和可解释性。

技术框架：SALA框架包含以下主要模块：1) 文体学特征提取模块：提取文本的定量文体学特征，例如词汇多样性、句子长度等。2) LLM推理模块：利用LLM对提取的文体学特征进行分析，判断文本的作者身份是否容易被推断出来。3) 数据库模块（可选）：包含已知作者的文体学特征信息，用于辅助LLM进行推理。4) 引导式重构模块：根据LLM的推理轨迹，生成重写提示，用于修改文本以降低作者身份的可识别性。

关键创新：SALA框架的关键创新在于将定量文体学特征与LLM推理相结合。与传统的仅依赖LLM的方法相比，SALA能够更有效地利用文本的写作风格信息，提高去匿名化风险评估的准确性。此外，SALA框架具有良好的可解释性，可以帮助理解LLM的推理过程，从而指导有效的防御措施。

关键设计：在文体学特征提取方面，论文可能采用了多种常用的文体学指标，例如词汇多样性（Type-Token Ratio）、平均句子长度、标点符号使用频率等。LLM推理模块可能采用了微调后的LLM模型，使其能够更好地理解和利用文体学特征。引导式重构模块的设计可能涉及到对LLM生成文本的约束，例如限制某些词汇的使用，或者调整句子的结构。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，SALA框架在大型新闻数据集上取得了较高的作者身份推理准确率。特别是，当SALA与数据库模块结合使用时，性能得到了进一步提升。此外，引导式重构策略能够有效地降低作者身份的可识别性，同时保持文本的含义。具体的性能数据和提升幅度未知。

🎯 应用场景

该研究成果可应用于新闻媒体、社交平台等领域，帮助评估和降低文本数据中的去匿名化风险，保护作者的隐私。通过SALA框架，可以主动识别潜在的风险，并采取相应的措施，例如修改文本或调整写作风格，从而有效地防止作者身份被泄露。此外，该研究还可以促进对LLM安全性的更深入理解，推动开发更安全、更可靠的LLM应用。

📄 摘要（原文）

The rapid advancement of large language models (LLMs) has enabled powerful authorship inference capabilities, raising growing concerns about unintended deanonymization risks in textual data such as news articles. In this work, we introduce an LLM agent designed to evaluate and mitigate such risks through a structured, interpretable pipeline. Central to our framework is the proposed $\textit{SALA}$ (Stylometry-Assisted LLM Analysis) method, which integrates quantitative stylometric features with LLM reasoning for robust and transparent authorship attribution. Experiments on large-scale news datasets demonstrate that $\textit{SALA}$, particularly when augmented with a database module, achieves high inference accuracy in various scenarios. Finally, we propose a guided recomposition strategy that leverages the agent's reasoning trace to generate rewriting prompts, effectively reducing authorship identifiability while preserving textual meaning. Our findings highlight both the deanonymization potential of LLM agents and the importance of interpretable, proactive defenses for safeguarding author privacy.