ShieldCLIP: Selective Safety Alignment for Harmful Content Mitigation in Multimodal Foundation Models
作者: Tobia Poppi, Silvia Cappelletti, Samuele Poppi, Marcella Cornia, Lorenzo Baraldi, Diego Garcia-Olano, Rita Cucchiara
分类: cs.CV, cs.AI, cs.CL, cs.MM
发布日期: 2026-09-30
🔗 代码/项目: PROJECT_PAGE
💡 一句话要点
提出ShieldCLIP以解决多模态模型中的有害内容问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态模型 安全对齐 有害内容抑制 数据集 跨模态检索 文本生成 图像生成
📋 核心要点
- 现有多模态模型在处理有害内容时面临挑战，尤其是如何在不改变良性内容的情况下进行安全对齐。
- ShieldCLIP通过观察每种模态的安全状态来进行安全对齐，确保仅重定向不安全的内容，保留安全内容。
- 实验结果显示，ShieldCLIP在多个任务中均优于现有的安全对齐编码器和强基线，显著降低了有害输出。
📝 摘要（中文）
多模态编码器如CLIP在许多下游系统中发挥着重要作用，但其网络规模的训练数据中嵌入了有害关联，安全对齐必须抑制这些关联而不改变良性表示。由于伦理和实际限制，现有数据集将安全样本与生成样本配对，但所有生成样本均标记为不安全。为了解决这一问题，本文提出了ShieldCLIP，这是第一个基于每种模态的观察安全状态进行安全对齐的框架。我们还引入了ViSUv2，一个包含578个概念和28个类别的独立模态安全标签的195k四元组数据集。实验表明，ShieldCLIP在跨模态检索、文本到图像生成等任务中，显著减少了有害输出，同时保持了原始嵌入空间的效用。
🔬 方法详解
问题定义：本文旨在解决多模态模型中有害内容的安全对齐问题。现有方法通常将生成样本标记为不安全，导致良性内容被错误处理。
核心思路：ShieldCLIP的核心思想是根据每种模态的观察安全状态进行安全对齐，而不是依赖样本的来源，从而有效保留安全内容并重定向不安全内容。
技术框架：ShieldCLIP的整体架构包括四个主要模块：安全内容锚定、不安全模态重定向、混合对更新不安全分支以及当两者均不安全时强制一致性。
关键创新：最重要的创新在于引入了基于模态的独立安全标签和四向条件目标，这与现有方法的配对监督方式有本质区别。
关键设计：在损失函数设计上，ShieldCLIP采用了四向条件目标，确保安全内容得到保留，而不安全模态被重定向到安全对应物，混合对仅更新不安全分支。
🖼️ 关键图片
📊 实验亮点
在跨模态检索和文本到图像生成任务中，ShieldCLIP相较于之前的安全对齐编码器和强基线，显著减少了有害输出，具体性能提升幅度达到XX%（具体数据待补充）。
🎯 应用场景
该研究的潜在应用领域包括社交媒体内容审核、自动化内容生成和多模态检索系统。通过有效抑制有害内容，ShieldCLIP能够提高用户体验和平台安全性，具有重要的实际价值和社会影响。
📄 摘要（原文）
Multimodal encoders such as CLIP underlie many downstream systems, but their web-scale training data embed harmful associations that safety alignment must suppress without unnecessarily changing benign representations. Because ethical and practical constraints prevent collecting real unsafe content at scale, existing datasets pair safe real samples with generated counterparts, but label every generated sample unsafe, even when one modality is individually safe. To address this, we introduce ShieldCLIP, the first framework to condition safety alignment on the observed safety state of each modality rather than the origin of a sample, preserving safe content while redirecting only what is unsafe. We also introduce ViSUv2, a 195k-quadruplet dataset with independent per-modality safety labels across 578 concepts and 28 categories. Using these labels, ShieldCLIP defines a four-way conditional objective beyond pair-level supervision: safe content is anchored, unsafe modalities are redirected to their safe counterparts, mixed pairs update only the unsafe branch, and coherence is enforced when both are unsafe. We evaluate ShieldCLIP on cross-modal retrieval, text-to-image generation with Stable Diffusion v1.4 and SDXL, and image-to-text generation with LLaVA. Across these settings, ShieldCLIP consistently reduces harmful outputs over prior safety-aligned encoders and strong mitigation baselines, while preserving the utility of the original embedding space. Extensive ablation studies further show that both modality-specific supervision and the selective alignment objective contribute to these gains. Source code, trained models, and ViSUv2 (under a controlled-access protocol) will be made publicly available at https://aimagelab.github.io/ShieldCLIP/.