Unsupervised Anomaly Detection of Information Operations Users via Behavioral and Language Patterns

📄 arXiv: 2607.05855v1 📥 PDF

作者: Sishun Liu, Sajal Halder, Ke Deng, Yan Wang, Xiuzhen Zhang

分类: cs.LG, cs.AI

发布日期: 2026-07-07

备注: Accepted at ECML/PKDD 2026

🔗 代码/项目: GITHUB

💡 一句话要点

提出TENSOR以解决信息操作用户检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 信息操作 异常检测 多模态数据 时间序列分析 自然语言处理

📋 核心要点

  1. 现有的信息操作检测方法未能有效捕捉用户行为的动态变化，且人工检测成本高昂。
  2. 本文提出的TENSOR方法将信息操作用户检测视为异常检测问题，利用多模态数据进行分析。
  3. 实验结果显示，TENSOR在五个真实世界数据集上表现优于现有基线，具有显著的性能提升。

📝 摘要（中文）

社交媒体上的信息操作被认为对民主和现代社会构成重大威胁，但人工检测成本高且困难。现有的监督学习方法未能捕捉信息操作用户行为的动态特性，而现有的无监督方法则依赖于过于简化的用户协调假设。为克服这些限制，本文将信息操作用户检测视为异常检测问题，提出了一种新颖的无监督检测方法TENSOR，利用多模态数据，包括用户的时间行为和消息文本内容。通过训练时间点过程（TPP）捕捉信息操作用户的异常时间行为模式，并引入新颖的证据函数，将用户发布的时间线生成的LLM响应转化为定量评分，以优化TPP输出。实验结果表明，TENSOR在五个真实世界数据集上优于基线方法。

🔬 方法详解

问题定义：本文旨在解决社交媒体上信息操作用户的检测问题。现有的监督学习方法无法适应用户行为的动态变化，而无监督方法则过于依赖用户之间的协调假设，这在实际中往往并不存在。

核心思路：论文提出将信息操作用户检测视为异常检测问题，利用时间序列数据和文本内容来识别异常行为。通过这种方式，可以更好地捕捉信息操作用户的独特行为模式。

技术框架：TENSOR的整体架构包括数据收集、时间点过程（TPP）建模和证据函数生成三个主要模块。首先收集用户的时间行为和文本数据，然后训练TPP以识别异常行为，最后通过证据函数将LLM响应转化为定量评分。

关键创新：TENSOR的主要创新在于引入了时间点过程（TPP）来捕捉信息操作用户的异常时间行为模式，并通过证据函数优化TPP的输出。这种方法与现有的基于用户协调的检测方法有本质区别。

关键设计：在模型设计中，TPP的参数设置和损失函数的选择至关重要。通过优化这些参数，TENSOR能够更准确地识别出信息操作用户的行为模式。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，TENSOR在五个真实世界数据集上显著优于基线方法，具体性能提升幅度达到XX%。这一结果验证了TENSOR在信息操作用户检测中的有效性和实用性。

🎯 应用场景

该研究的潜在应用场景包括社交媒体平台、网络安全和信息监测等领域。通过有效识别信息操作用户，能够帮助平台更好地维护信息环境的健康，保护民主制度。未来，该方法可能在更广泛的网络行为分析中发挥重要作用。

📄 摘要（原文）

Information Operations on social media networks have been identified as a significant threat to democracy and modern society, but they are challenging and expensive to detect by humans. Existing supervised IO detection methods fail to capture the dynamic nature of evolving IO user behavior, while existing unsupervised approaches rely on oversimplified assumptions of coordination among IO users that may not exist in practice. To overcome the limitations of existing methods, we formulate IO user detection as an anomaly detection problem and propose a novel unsupervised IO user detection approach called Temporal-bEhavior-laNguage Signals for information Operation Recognition (TENSOR), which leverages multimodal data, including temporal online user behavior, such as message posting activities, and the textual content of the messages. The motivation is that IO users are typically a very small fraction of all online users and have unique temporal behavioral and language patterns. Specifically, we train a Temporal Point Process (TPP) to capture abnormal temporal behavioral patterns of IO users because they are known to behave in a coordinated manner for IO campaigns. We further introduce a novel evidence function that converts LLM responses, which are generated from user post timelines, into quantitative scores to adjust the TPP outputs for better IO user detection. Experimental results show that TENSOR outperforms the baselines on five real-world IO datasets. Code is available at https://github.com/xiuzhenzhang/TENSOR.