SafeScreen: A Safety-First Screening Framework for Personalized Video Retrieval for Vulnerable Users
作者: Wenzheng Zhao, Madhava Kalyan Gadiputi, Fengpei Yuan
分类: cs.CV, cs.AI, cs.CR
发布日期: 2026-04-07
💡 一句话要点
SafeScreen：面向弱势用户的安全优先个性化视频检索框架
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 视频安全 个性化推荐 弱势群体保护 多模态分析 大型语言模型 内容审核 VideoRAG
📋 核心要点
- 现有开放域视频平台的推荐算法可能使弱势群体接触到不适宜内容，尤其是在儿童和老年人护理场景下。
- SafeScreen框架将安全性置于首位，通过自动化流程对候选视频进行筛选，确保内容符合个性化的安全约束。
- 实验表明，SafeScreen在保证安全性的前提下，显著偏离了以用户参与度为优化的YouTube排名，并获得了专家认可。
📝 摘要（中文）
开放域视频平台提供丰富的个性化内容，可支持健康、护理和教育应用，但其以用户参与度为优化的推荐算法可能会使弱势用户接触到不适当或有害的材料。在儿童导向和护理环境（如痴呆症护理）中，这些风险尤为严重，在展示内容之前必须满足个性化的安全约束。我们介绍SafeScreen，一个安全优先的视频筛选框架，它在强制执行个性化安全约束的同时，检索和呈现个性化视频。SafeScreen不按相关性或受欢迎程度对视频进行排序，而是将安全性作为先决条件，并通过自动化流程对候选视频进行顺序批准或拒绝。SafeScreen集成了三个关键组件：（i）基于用户画像提取个性化的安全标准，（ii）通过自适应问题生成和多模态VideoRAG分析进行基于证据的评估，以及（iii）基于LLM的决策，在内容展示之前验证安全性、适当性和相关性。这种设计无需依赖预先计算的安全标签，即可对未策划的视频存储库进行可解释的实时筛选。我们使用30个合成患者画像和90个测试查询，在痴呆症护理怀旧案例研究中评估SafeScreen。结果表明，SafeScreen优先考虑安全性而非用户参与度，在80-93%的案例中与YouTube以用户参与度为优化的排名不同，同时保持了高水平的安全覆盖率、合理性和可靠性，这已通过基于LLM的评估和领域专家验证。
🔬 方法详解
问题定义：现有开放域视频平台，如YouTube，虽然拥有海量视频资源，但其推荐算法通常以用户参与度为优化目标，容易向用户推送不适宜或有害的内容，尤其是在儿童和老年人等弱势群体的使用场景下。现有的内容审核方法通常依赖于预先计算的安全标签，无法满足个性化的安全需求，且难以应对不断涌现的新内容。
核心思路：SafeScreen的核心思路是将安全性作为视频推荐的先决条件，而非优化目标。它通过一个自动化筛选流程，对候选视频进行逐一评估，只有满足个性化安全约束的视频才能被推荐给用户。这种“安全第一”的设计理念，能够有效避免弱势群体接触到不适宜的内容。
技术框架：SafeScreen框架包含三个主要模块：（1）用户画像驱动的安全标准提取：根据用户画像（如年龄、认知能力、兴趣爱好等）提取个性化的安全标准。（2）基于证据的评估：通过自适应问题生成和多模态VideoRAG（Retrieval-Augmented Generation）分析，对候选视频进行安全性、适当性和相关性评估。VideoRAG从视频内容中检索相关信息，并生成答案来回答安全相关的问题。（3）基于LLM的决策：利用大型语言模型（LLM）对评估结果进行综合分析，判断视频是否满足安全标准，并做出最终的批准或拒绝决策。
关键创新：SafeScreen的关键创新在于其安全优先的设计理念和基于证据的评估方法。与传统的基于预计算标签的方法不同，SafeScreen能够对未策划的视频进行实时筛选，并根据用户画像动态调整安全标准。此外，SafeScreen采用自适应问题生成和多模态VideoRAG分析，能够更全面、准确地评估视频的安全性。
关键设计：SafeScreen的关键设计包括：(1) 自适应问题生成策略，根据用户画像和视频内容动态生成安全相关的问题。(2) 多模态VideoRAG分析，融合视频的视觉、音频和文本信息，提高评估的准确性。(3) 基于LLM的决策模型，利用LLM的推理能力，对评估结果进行综合分析，并做出最终决策。具体参数设置和网络结构细节在论文中未详细说明，属于未知信息。
🖼️ 关键图片
📊 实验亮点
SafeScreen在痴呆症护理怀旧案例研究中进行了评估，结果表明，SafeScreen在80-93%的案例中与YouTube的排名不同，表明其优先考虑安全性而非用户参与度。同时，SafeScreen保持了高水平的安全覆盖率、合理性和可靠性，并通过了基于LLM的评估和领域专家的验证。这些结果表明，SafeScreen能够有效提升视频推荐的安全性，并满足个性化的安全需求。
🎯 应用场景
SafeScreen可应用于各种需要个性化安全保障的视频推荐场景，例如儿童教育、老年人护理、心理健康支持等。通过定制化的安全标准和自动化筛选流程，SafeScreen能够有效保护弱势群体免受不适宜内容的侵害，提升视频平台的安全性和用户体验。未来，SafeScreen还可以与其他安全技术相结合，构建更完善的内容安全生态系统。
📄 摘要（原文）
Open-domain video platforms offer rich, personalized content that could support health, caregiving, and educational applications, but their engagement-optimized recommendation algorithms can expose vulnerable users to inappropriate or harmful material. These risks are especially acute in child-directed and care settings (e.g., dementia care), where content must satisfy individualized safety constraints before being shown. We introduce SafeScreen, a safety-first video screening framework that retrieves and presents personalized video while enforcing individualized safety constraints. Rather than ranking videos by relevance or popularity, SafeScreen treats safety as a prerequisite and performs sequential approval or rejection of candidate videos through an automated pipeline. SafeScreen integrates three key components: (i) profile-driven extraction of individualized safety criteria, (ii) evidence-grounded assessments via adaptive question generation and multimodal VideoRAG analysis, and (iii) LLM-based decision-making that verifies safety, appropriateness, and relevance before content exposure. This design enables explainable, real-time screening of uncurated video repositories without relying on precomputed safety labels. We evaluate SafeScreen in a dementia-care reminiscence case study using 30 synthetic patient profiles and 90 test queries. Results demonstrate that SafeScreen prioritizes safety over engagement, diverging from YouTube's engagement-optimized rankings in 80-93% of cases, while maintaining high levels of safety coverage, sensibleness, and groundedness, as validated by both LLM-based evaluation and domain experts.