Beneath the Surface: Unveiling Harmful Memes with Multimodal Reasoning Distilled from Large Language Models

📄 arXiv: 2312.05434v1 📥 PDF

作者: Hongzhan Lin, Ziyang Luo, Jing Ma, Long Chen

分类: cs.CL

发布日期: 2023-12-09

备注: The first work to alleviate the issue of superficial understanding for harmful meme detection by explicitly utilizing commonsense knowledge, from a fresh perspective on harnessing advanced Large Language Models

期刊: The 2023 Conference on Empirical Methods in Natural Language Processing

💡 一句话要点

提出基于大语言模型蒸馏的多模态推理框架，用于识别有害Meme

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 有害Meme检测 多模态推理 大语言模型 知识蒸馏 生成式模型

📋 核心要点

  1. 现有有害Meme检测方法侧重于表层信号，缺乏对文本和图像深层语义的理解与推理能力。
  2. 该论文提出一种基于大语言模型蒸馏的生成式框架，学习LLM的推理能力，提升多模态融合效果。
  3. 实验结果表明，该方法在三个Meme数据集上超越了现有最佳方法，有效提升了有害Meme的检测性能。

📝 摘要（中文）

社交媒体时代充斥着各种Meme。由于其隐含意义并非通过表面文本和图像明确传达，理解和检测有害Meme构成了一项重大挑战。现有的有害Meme检测方法仅以端到端分类方式识别表面上指示危害的信号，而忽略了对Meme文本和图像的深入认知。本文尝试基于对Meme中多模态信息交互的高级推理来检测有害Meme。受到大型语言模型（LLM）在复杂推理方面成功的启发，我们首先使用LLM进行溯因推理。然后，我们提出了一个新颖的生成框架，用于从LLM学习合理的思想，以实现更好的多模态融合和轻量级微调，该框架包括两个训练阶段：1）从LLM中提取多模态推理知识；2）微调生成框架以推断危害性。在三个Meme数据集上进行的大量实验表明，我们提出的方法在有害Meme检测任务上优于最先进的方法。

🔬 方法详解

问题定义：现有方法在检测有害Meme时，主要依赖于对表面文本和图像特征的简单分类，缺乏对Meme内在含义的深入理解和推理能力。这导致模型难以识别那些通过隐晦的方式表达有害信息的Meme，例如使用反讽、双关语或文化典故等。

核心思路：该论文的核心思路是利用大型语言模型（LLM）强大的推理能力，将LLM的知识蒸馏到轻量级的模型中，从而提升模型对Meme多模态信息的理解和推理能力。通过让模型学习LLM的推理过程，使其能够更好地捕捉Meme中隐含的有害信息。

技术框架：该方法包含两个主要阶段：1) 多模态推理知识蒸馏：利用LLM对Meme的文本和图像进行溯因推理，生成对Meme含义的解释。这些解释被用作训练数据的标签，用于训练一个生成式模型。2) 生成框架微调：使用生成式模型对Meme的文本和图像进行编码，并生成对Meme有害性的判断。通过微调生成式模型，使其能够更好地学习LLM的推理能力，并提升有害Meme的检测性能。

关键创新：该论文的关键创新在于提出了一种基于LLM蒸馏的多模态推理框架，用于有害Meme检测。与现有方法相比，该方法能够更好地利用LLM的推理能力，提升模型对Meme多模态信息的理解和推理能力。此外，该方法还提出了一种生成式框架，用于学习LLM的推理过程，从而实现更好的多模态融合和轻量级微调。

关键设计：在知识蒸馏阶段，使用LLM生成对Meme含义的解释，这些解释被用作训练数据的标签。在生成框架微调阶段，使用交叉熵损失函数来训练生成式模型，使其能够更好地学习LLM的推理能力。具体的网络结构和参数设置未知。

📊 实验亮点

该论文在三个Meme数据集上进行了实验，结果表明提出的方法优于现有最先进的方法，证明了其有效性。具体的性能提升数据未知，但论文强调了该方法在有害Meme检测任务上的优越性。

🎯 应用场景

该研究成果可应用于社交媒体平台的内容审核，自动检测和过滤有害Meme，减少不良信息传播，维护健康的网络环境。此外，该方法也可扩展到其他多模态内容理解任务，例如虚假新闻检测、仇恨言论识别等，具有广泛的应用前景。

📄 摘要（原文）

The age of social media is rife with memes. Understanding and detecting harmful memes pose a significant challenge due to their implicit meaning that is not explicitly conveyed through the surface text and image. However, existing harmful meme detection approaches only recognize superficial harm-indicative signals in an end-to-end classification manner but ignore in-depth cognition of the meme text and image. In this paper, we attempt to detect harmful memes based on advanced reasoning over the interplay of multimodal information in memes. Inspired by the success of Large Language Models (LLMs) on complex reasoning, we first conduct abductive reasoning with LLMs. Then we propose a novel generative framework to learn reasonable thoughts from LLMs for better multimodal fusion and lightweight fine-tuning, which consists of two training stages: 1) Distill multimodal reasoning knowledge from LLMs; and 2) Fine-tune the generative framework to infer harmfulness. Extensive experiments conducted on three meme datasets demonstrate that our proposed approach achieves superior performance than state-of-the-art methods on the harmful meme detection task.