Towards Anytime-Valid Statistical Watermarking

📄 arXiv: 2602.17608v1 📥 PDF

作者: Baihe Huang, Eric Xu, Kannan Ramchandran, Jiantao Jiao, Michael I. Jordan

分类: cs.LG, cs.AI, stat.ML

发布日期: 2026-02-19

💡 一句话要点

提出基于E-value的统计水印框架，实现LLM生成内容的可信溯源与高效检测。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 统计水印 大型语言模型 内容溯源 E-value 随时有效推理

📋 核心要点

  1. 现有统计水印方法缺乏选择采样分布的理论指导，且固定时域假设检验限制了检测效率。
  2. 提出锚定E-水印框架，利用E-value实现最优采样和随时有效的推理，保证提前停止的有效性。
  3. 实验表明，该框架显著提升了样本效率，降低了检测所需的token预算，优于现有方法。

📝 摘要（中文）

大型语言模型（LLM）的普及需要有效的机制来区分机器生成的内容和人类文本。统计水印技术是一种有前景的解决方案，但现有方法存在两个关键限制：缺乏选择采样分布的原则性方法，以及依赖于固定时域假设检验，这排除了有效的提前停止。本文通过开发第一个基于E-value的水印框架——锚定E-水印，弥合了这一差距，该框架统一了最优采样和随时有效的推理。与可选停止会使I类错误保证失效的传统方法不同，我们的框架通过为检测过程构建测试超鞅来实现有效的随时推理。通过利用锚定分布来近似目标模型，我们根据最坏情况的对数增长率来表征最优E-value，并推导出最优预期停止时间。我们的理论主张得到了模拟和已建立基准评估的支持，表明我们的框架可以显著提高样本效率，相对于最先进的基线，平均减少13-15%的检测所需token预算。

🔬 方法详解

问题定义：论文旨在解决大型语言模型生成内容溯源的问题，即如何有效区分机器生成文本和人类创作文本。现有统计水印方法的痛点在于：一是缺乏选择最优采样分布的原则性方法，导致水印嵌入效率不高；二是依赖固定时域的假设检验，无法实现随时有效的检测，限制了检测效率和灵活性。

核心思路：论文的核心思路是利用E-value的概念，构建一个基于测试超鞅的随时有效推理框架。通过引入锚定分布来近似目标模型，从而优化E-value，并推导出最优的预期停止时间。这样可以在保证检测准确性的前提下，实现更高效的检测。

技术框架：Anchored E-Watermarking框架主要包含以下几个阶段：1. 锚定分布选择：选择一个合适的锚定分布来近似目标语言模型。2. E-value计算：基于锚定分布和目标模型，计算每个token的E-value。3. 测试超鞅构建：利用E-value构建测试超鞅，用于随时有效的假设检验。4. 停止规则设计：根据测试超鞅的值，设计停止规则，决定何时停止检测。

关键创新：该论文最重要的技术创新点在于提出了基于E-value的随时有效推理框架。与传统的固定时域假设检验方法不同，该框架能够保证在任意时间点停止检测，都能得到有效的统计推断结果。此外，通过优化E-value，可以实现更高效的水印检测。

关键设计：关键设计包括：1. 锚定分布的选择：锚定分布的选择直接影响E-value的计算和检测性能。论文可能探讨了不同锚定分布的选择策略。2. E-value的优化：论文通过最坏情况的对数增长率来表征最优E-value，并推导出最优预期停止时间。3. 停止规则的设计：停止规则的设计需要平衡检测准确性和检测效率。论文可能提出了一种自适应的停止规则，根据测试超鞅的值动态调整停止阈值。

📊 实验亮点

实验结果表明，所提出的锚定E-水印框架能够显著提高样本效率，相对于最先进的基线方法，平均减少13-15%的检测所需token预算。这表明该框架在保证检测准确性的前提下，能够更快速地检测出机器生成的内容。

🎯 应用场景

该研究成果可广泛应用于大型语言模型生成内容的版权保护、内容溯源和虚假信息检测等领域。通过有效区分机器生成文本和人类创作文本，有助于维护网络内容生态的健康，防止恶意信息传播，并促进人工智能技术的健康发展。

📄 摘要（原文）

The proliferation of Large Language Models (LLMs) necessitates efficient mechanisms to distinguish machine-generated content from human text. While statistical watermarking has emerged as a promising solution, existing methods suffer from two critical limitations: the lack of a principled approach for selecting sampling distributions and the reliance on fixed-horizon hypothesis testing, which precludes valid early stopping. In this paper, we bridge this gap by developing the first e-value-based watermarking framework, Anchored E-Watermarking, that unifies optimal sampling with anytime-valid inference. Unlike traditional approaches where optional stopping invalidates Type-I error guarantees, our framework enables valid, anytime-inference by constructing a test supermartingale for the detection process. By leveraging an anchor distribution to approximate the target model, we characterize the optimal e-value with respect to the worst-case log-growth rate and derive the optimal expected stopping time. Our theoretical claims are substantiated by simulations and evaluations on established benchmarks, showing that our framework can significantly enhance sample efficiency, reducing the average token budget required for detection by 13-15% relative to state-of-the-art baselines.