Information Suppression in Large Language Models: Auditing, Quantifying, and Characterizing Censorship in DeepSeek
作者: Peiran Qiu, Siyi Zhou, Emilio Ferrara
分类: cs.CY, cs.AI, cs.CL
发布日期: 2025-06-14
💡 一句话要点
提出审计框架，揭示DeepSeek大语言模型中的信息抑制现象
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 信息抑制 内容审查 审计框架 思维链 政治敏感话题 DeepSeek
📋 核心要点
- 大型语言模型可能存在信息审查和内容偏见，但缺乏有效的审计方法来检测和量化这些现象。
- 提出一种新的审计框架，通过比较模型内部推理过程和最终输出，来识别语义层面的信息抑制行为。
- 实验表明DeepSeek模型在处理政治敏感话题时，存在对特定信息的选择性抑制和对其他信息的放大现象。
📝 摘要（中文）
本研究考察了中国开源大语言模型DeepSeek中的信息抑制机制。我们提出了一个审计框架，通过比较模型最终输出与中间的思维链（CoT）推理过程，分析其对646个政治敏感提示的响应。审计结果揭示了DeepSeek中语义层面的信息抑制现象：敏感内容经常出现在模型的内部推理中，但在最终输出中被省略或改写。具体而言，DeepSeek抑制了对透明度、政府问责制和公民动员的提及，同时偶尔会放大与国家宣传相一致的言论。这项研究强调需要对广泛采用的AI模型中实施的对齐、内容审核、信息抑制和审查实践进行系统审计，以确保透明度、问责制以及通过这些系统获得公正信息的公平访问。
🔬 方法详解
问题定义：本研究旨在揭示和量化大型语言模型（LLM）中的信息抑制现象，特别是针对政治敏感话题。现有方法难以有效检测模型在生成过程中的细微信息操控，缺乏对模型内部推理过程的深入分析。
核心思路：核心思路是通过对比LLM在生成最终输出之前的中间推理过程（思维链，CoT）与最终输出的内容差异，来识别信息抑制行为。如果敏感信息出现在CoT中，但未出现在最终输出中，则表明模型可能存在信息抑制。这种方法能够更深入地了解模型内部的信息处理机制。
技术框架：该审计框架主要包含以下几个阶段：1) 收集政治敏感提示（prompts）；2) 使用DeepSeek模型生成包含CoT推理过程的响应；3) 提取CoT推理过程中的关键信息；4) 比较CoT中的信息与最终输出的信息；5) 根据差异程度，量化信息抑制的程度。框架的核心在于对CoT推理过程的分析，这使得能够观察到模型在生成最终输出之前的信息处理过程。
关键创新：该研究的关键创新在于利用CoT推理过程作为审计LLM信息抑制的“中间层”。通过分析CoT，可以更清晰地观察到模型在生成最终输出之前的信息处理过程，从而更准确地识别信息抑制行为。与传统的黑盒测试方法相比，该方法能够提供更深入的洞察。
关键设计：研究中使用了646个政治敏感提示，这些提示涵盖了透明度、政府问责制、公民动员等多个方面。通过人工分析和关键词匹配等方法，提取CoT和最终输出中的关键信息。信息抑制程度的量化指标基于CoT中出现但最终输出中缺失的敏感信息的比例。没有明确提及损失函数或网络结构，因为该研究主要关注审计方法而非模型训练。
🖼️ 关键图片
📊 实验亮点
实验结果表明，DeepSeek模型在处理政治敏感话题时，存在显著的信息抑制现象。例如，模型会抑制对透明度、政府问责制和公民动员的提及，同时偶尔会放大与国家宣传相一致的言论。该研究量化了信息抑制的程度，并揭示了其在语义层面的表现形式。
🎯 应用场景
该研究成果可应用于评估和改进大型语言模型的安全性、可靠性和公正性。通过系统审计信息抑制行为，可以帮助开发者更好地理解模型的潜在偏见，并采取措施减少不必要的信息审查，从而提高模型在信息传播和知识共享方面的价值。此外，该方法也可用于评估其他AI系统的伦理风险。
📄 摘要（原文）
This study examines information suppression mechanisms in DeepSeek, an open-source large language model (LLM) developed in China. We propose an auditing framework and use it to analyze the model's responses to 646 politically sensitive prompts by comparing its final output with intermediate chain-of-thought (CoT) reasoning. Our audit unveils evidence of semantic-level information suppression in DeepSeek: sensitive content often appears within the model's internal reasoning but is omitted or rephrased in the final output. Specifically, DeepSeek suppresses references to transparency, government accountability, and civic mobilization, while occasionally amplifying language aligned with state propaganda. This study underscores the need for systematic auditing of alignment, content moderation, information suppression, and censorship practices implemented into widely-adopted AI models, to ensure transparency, accountability, and equitable access to unbiased information obtained by means of these systems.