ArGuard Shared Task: Harmful Content Detection in Arabic Memes and LLM Prompts

📄 arXiv: 2609.29349v2 📥 PDF

作者: Firoj Alam, Md. Rafiul Biswas, Mohamed Bayan Kmainasi, Ali Ezzat Shahroor, Hamdy Mubarak, George Mikros, Abul Hasnat, Wajdi Zaghouani

分类: cs.CL, cs.AI

发布日期: 2026-09-24 (更新: 2026-09-25)

💡 一句话要点

提出ArGuard共享任务以解决阿拉伯语恶意内容检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 恶意内容检测 阿拉伯语表情包 多模态学习 大型语言模型 安全评估

📋 核心要点

  1. 核心问题：现有方法在阿拉伯语表情包和LLM提示的恶意内容检测中面临标签稀疏和分布变化的挑战。
  2. 方法要点：论文通过设置两个轨道，分别针对表情包和LLM提示，探索多种模型以提高检测效果。
  3. 实验或效果：最佳系统在不同任务上取得了显著的宏F1得分，尤其在多模态仇恨检测上表现突出。

📝 摘要（中文）

ArGuard是一个针对阿拉伯语表情包和大型语言模型（LLM）提示中恶意内容检测的共享任务。该任务包含两个轨道：A轨道专注于阿拉伯语表情包中的多模态仇恨检测，B轨道则针对阿拉伯语LLM的安全评估进行有害提示检测。共有58支队伍注册，35支参与最终评估，27支提交了系统描述论文。参与团队探索了AraBERT、Jais和Qwen3-VL等模型。最佳系统在A1、A2、B1和B2的宏F1得分分别达到了0.823、0.419、0.984和0.790。其中，A2的细粒度表情包分类是最具挑战性的设置，部分原因是标签稀疏和训练-测试分布的变化。

🔬 方法详解

问题定义：本论文旨在解决阿拉伯语表情包和LLM提示中的恶意内容检测问题。现有方法在处理多模态数据时，往往面临标签稀疏和训练-测试分布变化的痛点，导致检测效果不佳。

核心思路：论文通过设立两个轨道，分别针对表情包和LLM提示，利用多种先进模型（如AraBERT、Jais和Qwen3-VL）进行深入探索，以提升恶意内容的检测精度。这样的设计旨在针对不同类型的输入数据，优化模型的适应性和准确性。

技术框架：整体架构包括两个主要轨道：A轨道专注于多模态仇恨检测，B轨道则针对有害提示检测。每个轨道的流程包括数据预处理、模型训练、评估和结果分析，确保系统的全面性和有效性。

关键创新：论文的关键创新在于将多模态仇恨检测与LLM提示检测结合，形成了一个综合性的评估框架。这一方法与现有单一模态检测方法的本质区别在于其考虑了多种数据源的交互影响。

关键设计：在模型设计上，采用了先进的预训练模型，并针对每个任务进行了特定的参数调整和损失函数优化，以适应阿拉伯语的特性和数据的多样性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，最佳系统在A1、A2、B1和B2任务上分别取得了宏F1得分0.823、0.419、0.984和0.790，尤其在多模态仇恨检测上表现优异。A2的细粒度分类任务由于标签稀疏和分布变化，成为最具挑战性的设置。

🎯 应用场景

该研究的潜在应用领域包括社交媒体内容审核、在线平台的安全性评估以及阿拉伯语内容的自动化监控。通过提高恶意内容检测的准确性，可以有效减少网络仇恨言论和有害信息的传播，提升用户体验和平台安全性。

📄 摘要（原文）

ArGuard is a shared task on harmful content detection in Arabic memes and LLM prompts. It includes two tracks: Track A focuses on multimodal hate detection in Arabic memes, while Track B addresses harmful prompt detection for Arabic LLM safety evaluation. In total, 58 teams registered, 35 participated in the final evaluation, and 27 submitted system-description papers. Participating teams explored models such as AraBERT, Jais, and Qwen3-VL. The best systems achieved macro-F1 scores of 0.823 on A1, 0.419 on A2, 0.984 on B1, and 0.790 on B2. Fine-grained meme classification in A2 was the most challenging setting, partly due to sparse labels and train-test distribution shifts.