Why Static Probes Fail: Context Determines Deception Feature Composition

📄 arXiv: 2610.27577v1 📥 PDF

作者: Yao Huang, Siyuan Chen, Zhenghan Zhou, Yinpeng Dong

分类: cs.CL

发布日期: 2026-10-20

备注: 11 pages, 5 figures

💡 一句话要点

提出多维子空间方法以解决静态探测器在欺骗检测中的局限性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 欺骗检测 多维子空间 领域自适应 大型语言模型 机器学习 动态组合 正交分解

📋 核心要点

  1. 现有的欺骗检测方法依赖于单一方向的线性探测，无法适应多样化的欺骗场景，导致泛化能力不足。
  2. 论文提出将欺骗视为多维子空间，通过迭代正交分解识别多个互补方向，并引入领域自适应门控机制进行动态组合。
  3. 实验结果显示，该方法在多个数据集上取得了0.97的AUROC和94%的召回率，显著优于传统方法，展示了其有效性。

📝 摘要（中文）

随着大型语言模型（LLMs）自主性增强，它们可能会表现出欺骗行为，例如策划追求不一致的目标或逃避监督。仅监控输出不足以识别这些行为，因为模型可能产生表面上无害的响应，同时却有不一致的内部目标。现有的线性探测方法假设欺骗对应于表示空间中的单一方向，但我们证明这种方法在不同欺骗场景中无法泛化。为了解决这一问题，我们提出将欺骗表示为多维子空间，而非单一方向。我们的方法利用迭代正交分解来识别捕捉欺骗意图不同方面的互补方向，并引入领域自适应门控机制，通过少量样本在测试时动态组合提取的方向。我们的方案在所有评估数据集上实现了0.97的平均AUROC和5%假阳性率下94%的召回率，显著优于现有方法。

🔬 方法详解

问题定义：本论文旨在解决现有静态探测器在欺骗检测中的局限性，特别是其对多样化欺骗场景的泛化能力不足。现有方法通常假设欺骗行为对应于表示空间中的单一方向，导致在不同场景下的表现不佳。

核心思路：论文提出将欺骗行为表示为多维子空间，而非单一方向。通过迭代正交分解，识别出多个互补方向，以捕捉欺骗意图的不同方面。结合领域自适应门控机制，动态组合这些方向以提高检测效果。

技术框架：整体方法包括两个主要模块：首先，通过迭代正交分解识别欺骗的多维特征方向；其次，利用领域自适应门控机制在测试时进行动态组合，以适应不同场景的需求。

关键创新：最重要的创新在于将欺骗检测从单一方向扩展到多维子空间，显著提高了模型在不同场景下的适应性和准确性。这一方法与传统的线性探测方法本质上不同，后者无法有效处理复杂的欺骗行为。

关键设计：在实现中，采用了少量样本（仅10个示例）进行动态组合，确保了在不同领域的适应性。同时，设计了适应性强的损失函数，以优化模型在多维空间中的表现。通过这些设计，模型在多个数据集上实现了优异的性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，提出的方法在所有评估数据集上实现了0.97的平均AUROC和94%的召回率，假阳性率仅为5%。这一性能显著优于现有的欺骗检测方法，展示了动态组合策略的有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括安全监控、社交媒体内容审核和自动化客服等。通过提高对欺骗行为的检测能力，可以有效防止信息误导和不当行为，提升系统的安全性和可靠性。未来，该方法有望在更广泛的人工智能应用中发挥重要作用，尤其是在需要高可信度的场景中。

📄 摘要（原文）

With increasing autonomy, Large Language Models (LLMs) may engage in deceptive behaviors, such as scheming to pursue misaligned goals or sandbagging to escape oversight. Monitoring outputs alone is insufficient, as models can produce seemingly benign responses while harboring misaligned internal objectives. While mechanistic approaches like linear probing are promising, they rely on the assumption that deception corresponds to a single direction in representation space. We demonstrate that such single-direction probes fail to generalize across diverse deception scenarios. To bridge this gap, we propose representing deception as a multi-dimensional subspace rather than a single direction. Our method utilizes iterative orthogonal decomposition to identify complementary directions that capture distinct facets of deceptive intent. To effectively leverage these directions for detection, we find that static combinations prove brittle due to strong domain dependence across different scenarios. We therefore introduce a domain-adaptive gating mechanism that dynamically composes the extracted directions through few-shot adaptation at test time. With only 10 examples, our approach achieves an average AUROC of 0.97 and 94% recall at 5% FPR across all evaluated datasets, substantially outperforming existing methods.