Every Model Leaves a Trace: Multi-Resolution LLM Fingerprinting

📄 arXiv: 2610.28434v1 📥 PDF

作者: Mohammad Reza Modarres, Armin Tourajmehr, Artin Tavasoli, Yadollah Yaghoobzadeh, Mohammad Taher Pilehvar

分类: cs.CL, cs.AI

发布日期: 2026-10-20

💡 一句话要点

提出多分辨率LLM指纹技术以区分模型身份

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 模型指纹 信号分辨率 文本生成 模型识别 语义表示 鲁棒性

📋 核心要点

  1. 现有方法在区分不同大型语言模型时面临挑战，尤其是在表面线索被削弱的情况下。
  2. 本文提出通过多分辨率指纹技术，分析模型和信号的分辨率，以识别模型身份。
  3. 实验结果显示，尽管表面和词汇线索被改变，模型特定信号依然显著，且在不同语言中保持鲁棒性。

📝 摘要（中文）

大型语言模型在生成文本时留下特定于模型的痕迹，但这些指纹在多大程度上能够区分相关模型仍不清楚。本文通过指纹分辨率的研究，探讨了模型分辨率和信号分辨率对模型识别的影响。研究表明，尽管表面线索被削弱，模型特定信号依然存在，并且在不同的提示源和语言中具有良好的迁移性。语义表示在多语言环境中表现出最强的鲁棒性，表明模型身份可以在多个分辨率下恢复，但恢复能力依赖于模型的相似性和文本中可用的证据。

🔬 方法详解

问题定义：本文旨在解决如何在表面线索减少的情况下，依然有效区分不同大型语言模型的问题。现有方法在处理蒸馏模型和适应性变体时效果不佳。

核心思路：通过分析模型分辨率和信号分辨率，逐步削弱表面线索，考察在不同提示和语言下的模型指纹特征，以此来恢复模型身份。

技术框架：研究流程包括多个阶段：首先，生成不同模型的文本；其次，逐步减少表面线索；最后，通过行为、风格、词汇和语义证据进行模型识别。

关键创新：最重要的创新在于提出了多分辨率指纹技术，能够在不同模型和语言之间有效识别模型身份，尤其是在表面线索被削弱的情况下。

关键设计：在实验中，采用了多种文本生成策略，设置了不同的提示分布，并使用了多种语言进行测试，以确保结果的广泛适用性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，尽管表面和词汇线索被改变，模型特定信号依然显著。尤其是在蒸馏模型和LoRA适应性变体中，模型身份的恢复率仍然高达70%以上，显示出该方法的有效性和鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括文本生成模型的安全性检测、模型归属分析和内容审计等。通过识别模型特征，可以帮助开发者和研究者更好地理解和管理大型语言模型的使用，防止滥用和误用。

📄 摘要（原文）

Large language models leave model-specific traces in their generated text, but it remains unclear how finely these fingerprints can distinguish related models and which signals remain informative as obvious cues are reduced. We study this through fingerprint resolution, considering both model resolution, from different families to distilled and adapted variants, and signal resolution across behavioral, stylometric, lexical, and semantic evidence. We progressively suppress surface cues, paraphrase outputs, vary the amount of available text, and test generalization across prompt distributions and languages. Our results show that fingerprints persist beyond broad family differences, remaining detectable in distilled models and even LoRA adaptations of the same base model. Although attribution weakens as surface and lexical cues are altered, substantial model-specific signal remains. These signals transfer across prompt sources and languages, with semantic representations proving most robust across languages. These findings show that model identity is recoverable at multiple resolutions, but that recoverability depends on model similarity and the evidence available in the text.