A Linguistics-Aware LLM Watermarking via Syntactic Predictability

📄 arXiv: 2510.13829 📥 PDF

作者: Shinwoo Park, Hyejin Park, Hyeseon Ahn, Yo-Sub Han

分类: cs.CL, cs.AI

发布日期: 2026-04-07

💡 一句话要点

提出STELA：一种基于句法可预测性的语言学感知LLM水印方案

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型水印 句法可预测性 词性n-gram 公开可验证 文本质量 检测鲁棒性 语言学感知

📋 核心要点

  1. 现有水印方法依赖模型输出分布，需要访问模型logits，阻碍了公开验证。
  2. STELA框架利用词性n-gram建模的语言不确定性，动态调整水印强度，平衡质量与鲁棒性。
  3. 实验表明，STELA在英语、汉语和韩语等多种语言上，检测鲁棒性优于现有方法。

📝 摘要（中文）

随着大型语言模型（LLMs）的快速发展，可靠的治理工具变得至关重要。公开可验证的水印技术对于建立可信赖的AI生态系统尤为重要。目前的核心挑战在于平衡文本质量和检测鲁棒性。现有研究试图通过利用模型输出分布的信号（例如，token级别的熵）来解决这一难题；然而，它们对模型特定信号的依赖对公开验证构成了重大障碍，因为检测过程需要访问底层模型的logits。我们提出了STELA，一种新颖的框架，它将水印强度与语言固有的语言学自由度对齐。STELA使用词性（POS）n-gram建模的语言不确定性动态地调节信号，在语法约束的环境中减弱信号以保持质量，并在具有更大语言灵活性的环境中加强信号以提高可检测性。我们的检测器无需访问任何模型logits即可运行，从而促进了公开可验证的检测。通过对类型学上不同的语言（分析型英语、孤立型汉语和粘着型韩语）进行的大量实验，我们表明STELA在检测鲁棒性方面优于现有方法。

🔬 方法详解

问题定义：现有的大语言模型水印方法，为了平衡文本质量和水印的鲁棒性，通常会利用模型输出的概率分布（例如token级别的熵）作为信号。然而，这些方法依赖于访问底层模型的logits，这使得水印的公开验证变得困难，因为无法在不访问模型内部信息的情况下进行水印检测。

核心思路：STELA的核心思想是将水印的强度与语言的句法结构和可预测性联系起来。具体来说，它认为在语法约束较强的上下文中，语言的自由度较低，因此应该减弱水印的强度，以保证文本的质量；而在语法约束较弱的上下文中，语言的自由度较高，可以增强水印的强度，以提高水印的可检测性。通过这种方式，STELA能够动态地调整水印的强度，从而在文本质量和水印鲁棒性之间取得更好的平衡。

技术框架：STELA框架主要包含两个部分：水印嵌入模块和水印检测模块。水印嵌入模块负责根据句法可预测性动态地调整水印的强度，并将水印嵌入到文本中。水印检测模块则负责在不需要访问模型logits的情况下，检测文本中是否包含水印。该框架的关键在于利用词性（POS）n-gram模型来估计句法可预测性，并根据估计结果调整水印强度。

关键创新：STELA最关键的创新在于它提出了一种与语言学知识相结合的水印方法。与以往依赖模型输出分布的方法不同，STELA利用词性n-gram模型来估计句法可预测性，从而动态地调整水印的强度。这种方法不需要访问模型logits，因此可以实现公开可验证的水印检测。此外，STELA还能够根据不同语言的特点进行调整，从而在多种语言上都能够取得良好的效果。

关键设计：STELA的关键设计包括：1) 使用词性n-gram模型来估计句法可预测性。n-gram的阶数是一个重要的参数，需要根据具体的语言和任务进行调整。2) 水印强度的调整函数。该函数需要将句法可预测性映射到水印强度，并且需要保证水印的强度在合理的范围内。3) 水印检测的阈值。该阈值需要根据具体的任务进行调整，以保证水印检测的准确性和鲁棒性。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果表明，STELA在英语、汉语和韩语等多种语言上，都能够取得比现有方法更好的检测鲁棒性。具体来说，STELA在保持文本质量的同时，能够显著提高水印的检测准确率，并且能够抵抗各种攻击，例如文本编辑和重写。在某些情况下，STELA的检测准确率比现有方法提高了10%以上。

🎯 应用场景

STELA技术可应用于生成式AI内容的版权保护、来源追溯和内容认证。通过嵌入公开可验证的水印，可以有效防止AI生成内容的滥用和恶意传播，维护AI生态系统的健康发展。该技术在新闻媒体、教育、法律等领域具有广泛的应用前景，有助于提升AI内容的可信度和透明度。

📄 摘要（原文）

As large language models (LLMs) continue to advance rapidly, reliable governance tools have become critical. Publicly verifiable watermarking is particularly essential for fostering a trustworthy AI ecosystem. A central challenge persists: balancing text quality against detection robustness. Recent studies have sought to navigate this trade-off by leveraging signals from model output distributions (e.g., token-level entropy); however, their reliance on these model-specific signals presents a significant barrier to public verification, as the detection process requires access to the logits of the underlying model. We introduce STELA, a novel framework that aligns watermark strength with the linguistic degrees of freedom inherent in language. STELA dynamically modulates the signal using part-of-speech (POS) n-gram-modeled linguistic indeterminacy, weakening it in grammatically constrained contexts to preserve quality and strengthen it in contexts with greater linguistic flexibility to enhance detectability. Our detector operates without access to any model logits, thus facilitating publicly verifiable detection. Through extensive experiments on typologically diverse languages-analytic English, isolating Chinese, and agglutinative Korean-we show that STELA surpasses prior methods in detection robustness. Our code is available atthis https URL.