An Agentic Operationalization of DISARM for FIMI Investigation on Social Media

📄 arXiv: 2601.15109v1 📥 PDF

作者: Kevin Tseng, Juan Carlos Toledano, Bart De Clerck, Yuliia Dukach, Phil Tinn

分类: cs.SI, cs.AI, cs.CY, cs.HC, cs.MA

发布日期: 2026-01-21

💡 一句话要点

提出基于Agent的DISARM框架，用于大规模社交媒体上的FIMI调查

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 外国信息操纵与干预 FIMI DISARM框架 多Agent系统 社交媒体分析

📋 核心要点

  1. 现有FIMI分析主要依赖人工，效率低且易受主观因素影响，难以应对社交媒体大规模数据。
  2. 提出一种基于Agent的DISARM框架，通过多个AI Agent协同工作，自动检测和分析社交媒体上的操纵行为。
  3. 在真实数据集上的实验表明，该方法能够有效扩展FIMI分析，提升态势感知和数据互操作性。

📝 摘要（中文）

为了应对外国信息操纵与干预(FIMI)带来的挑战，以及AI增强型网络水军活动的成本降低，本文提出了一种与框架无关的、基于Agent的DISARM框架，用于在社交媒体上调查FIMI。该框架通过多Agent流水线，利用专门的AI Agent协同工作，以透明的方式检测候选操纵行为，并将其映射到标准的DISARM分类法中。我们在两个由领域专家标注的真实数据集上评估了该方法。实验结果表明，该方法能够有效地扩展FIMI分析工作，直接有助于提高在信息丰富的环境中运行时的态势感知和数据互操作性。

🔬 方法详解

问题定义：论文旨在解决社交媒体上外国信息操纵与干预（FIMI）的调查问题。现有方法主要依赖人工分析，效率低下且难以扩展到大规模社交媒体数据。此外，AI技术的进步降低了恶意信息传播的成本，使得FIMI活动更加难以检测和应对。因此，需要一种自动化的、可扩展的FIMI分析方法。

核心思路：论文的核心思路是将DISARM框架操作化，通过构建一个多Agent系统，模拟人工分析过程。每个Agent负责特定的任务，例如检测操纵行为或映射到DISARM分类法。Agent之间协同工作，实现对FIMI活动的自动化分析。这种方法旨在提高分析效率，降低人工成本，并提供更客观、透明的分析结果。

技术框架：该方法构建了一个多Agent流水线，包含以下主要模块：1) 数据采集模块：负责从社交媒体平台收集相关数据。2) 行为检测模块：利用AI Agent检测候选的操纵行为。3) DISARM映射模块：将检测到的行为映射到标准的DISARM分类法中。4) 结果展示模块：以可视化的方式展示分析结果。整个流程是自动化的，Agent之间通过消息传递进行协作。

关键创新：该方法的主要创新在于将DISARM框架操作化，并将其应用于大规模社交媒体数据。通过构建一个多Agent系统，实现了FIMI分析的自动化和可扩展性。此外，该方法还强调透明性，Agent的行为和决策过程是可解释的，有助于提高分析结果的可信度。

关键设计：论文中没有详细描述具体的参数设置、损失函数或网络结构等技术细节。但是，可以推断，行为检测模块可能使用了自然语言处理、机器学习等技术，例如情感分析、文本分类、异常检测等。DISARM映射模块可能使用了知识图谱、规则引擎等技术，将检测到的行为与DISARM分类法进行匹配。具体的实现细节未知。

🖼️ 关键图片

fig_0

📊 实验亮点

该方法在两个真实世界的社交媒体数据集上进行了评估，这些数据集由领域专家进行了标注。实验结果表明，该方法能够有效地检测和分析FIMI活动，并将其映射到标准的DISARM分类法中。具体的性能数据（例如准确率、召回率等）未知，但论文强调该方法能够显著提高FIMI分析的效率和可扩展性，从而增强态势感知和数据互操作性。

🎯 应用场景

该研究成果可应用于国家安全、公共安全、舆情监控等领域。政府机构和情报部门可以利用该方法自动检测和分析社交媒体上的FIMI活动，及时发现潜在威胁，并采取相应的应对措施。此外，媒体机构和社交媒体平台也可以利用该方法识别和过滤虚假信息，维护信息生态的健康。

📄 摘要（原文）

The interoperability of data and intelligence across allied partners and their respective end-user groups is considered a foundational enabler to the collective defense capability--both conventional and hybrid--of NATO countries. Foreign Information Manipulation and Interference (FIMI) and related hybrid activities are conducted across various societal dimensions and infospheres, posing an ever greater challenge to the characterization of threats, sustaining situational awareness, and response coordination. Recent advances in AI have further led to the decreasing cost of AI-augmented trolling and interference activities, such as through the generation and amplification of manipulative content. Despite the introduction of the DISARM framework as a standardized metadata and analytical framework for FIMI, operationalizing it at the scale of social media remains a challenge. We propose a framework-agnostic agent-based operationalization of DISARM to investigate FIMI on social media. We develop a multi-agent pipeline in which specialized agentic AI components collaboratively (1) detect candidate manipulative behaviors, and (2) map these behaviors onto standard DISARM taxonomies in a transparent manner. We evaluated the approach on two real-world datasets annotated by domain practitioners. We demonstrate that our approach is effective in scaling the predominantly manual and heavily interpretive work of FIMI analysis, providing a direct contribution to enhancing the situational awareness and data interoperability in the context of operating in media and information-rich settings.