AI-rays: Exploring Bias in the Gaze of AI Through a Multimodal Interactive Installation

📄 arXiv: 2410.03786v1 📥 PDF

作者: Ziyao Gao, Yiwen Zhang, Ling Li, Theodoros Papatheodorou, Wei Zeng

分类: cs.HC, cs.AI, cs.CY

发布日期: 2024-10-03

备注: Siggraph Asia 2024 Art Paper

DOI: 10.1145/3680530.3695433

💡 一句话要点

AI-rays：通过多模态交互装置探索AI凝视中的偏见

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI偏见 交互式装置 人机交互 体验式学习 AI伦理

📋 核心要点

  1. AI算法在数据监控中日益普遍，可能导致基于外貌等特征的有偏见社会分类，现有方法缺乏对这种偏见的有效揭示和反思。
  2. AI-rays通过交互式装置，利用AI根据参与者外貌生成推测性身份，并以合成个人物品的形式呈现，从而引发对AI偏见的思考。
  3. 该装置通过对比现实与AI生成的假设，以X射线视觉的隐喻方式，突出了AI的审查和偏见，旨在促进关于现代监控和人机现实的讨论。

📝 摘要（中文）

随着AI算法的普及，数据监控变得更加隐蔽和普遍，这可能导致有偏见的社会分类。外貌提供了直观的身份信号，但让AI观察和推测这些信号意味着什么？我们介绍了AI-rays，一个交互式装置，AI根据参与者的外貌生成推测性的身份，并通过放置在参与者包中的合成个人物品来表达。它使用推测性的X射线视觉来对比现实与AI生成的假设，隐喻地突出了AI的审查和偏见。AI-rays通过一个有趣的、沉浸式的体验探索AI偏见，从而促进了关于现代监控和人机现实未来的讨论。

🔬 方法详解

问题定义：论文旨在解决公众对AI算法偏见缺乏直观理解的问题。现有方法通常采用技术报告或学术论文的形式，难以引起大众的共鸣和反思。此外，现有方法较少关注AI基于外貌进行推测性身份识别所带来的潜在风险。

核心思路：论文的核心思路是通过一个交互式艺术装置，将抽象的AI偏见概念具象化，让参与者能够亲身体验AI如何基于外貌进行推测性判断，从而引发他们对AI偏见问题的思考和讨论。这种体验式的学习方式比传统的理论讲解更有效。

技术框架：AI-rays装置包含以下主要模块：1) 视觉感知模块：使用摄像头捕捉参与者的外貌特征。2) AI推断模块：利用预训练的AI模型（具体模型未知）根据外貌特征推断参与者的身份和个性。3) 内容生成模块：基于AI的推断结果，生成与推测身份相关的合成个人物品。4) X射线视觉呈现模块：通过屏幕展示参与者包内的真实物品和AI生成的合成物品，形成对比。5) 交互界面：允许参与者与装置互动，观察AI的推断过程。

关键创新：该论文的关键创新在于将AI偏见问题与艺术装置相结合，创造了一种新颖的交互式体验。这种体验式学习方式能够更有效地引发公众对AI偏见的关注和反思。此外，该装置利用X射线视觉的隐喻，巧妙地突出了AI的审查和推测性判断。

关键设计：论文中未详细描述AI模型的具体选择和训练细节，以及合成个人物品的生成方法。这些是影响装置体验的关键设计因素，但文中没有提供足够的信息。推测可能使用了预训练的人脸识别模型或属性预测模型，以及生成对抗网络（GAN）等技术来生成合成图像。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

由于该论文主要关注交互式装置的设计和体验，而非具体的性能指标，因此没有提供具体的实验数据。其亮点在于成功地将抽象的AI偏见概念转化为可感知的交互式体验，引发了参与者对AI伦理问题的思考。

🎯 应用场景

该研究成果可应用于博物馆、艺术展览、科技馆等场所，用于向公众普及AI伦理和偏见问题。此外，该装置的设计理念可以启发其他类似的交互式体验设计，用于探索其他社会问题，例如算法歧视、数据隐私等。该研究有助于提高公众对AI技术的认知水平，促进负责任的AI发展。

📄 摘要（原文）

Data surveillance has become more covert and pervasive with AI algorithms, which can result in biased social classifications. Appearance offers intuitive identity signals, but what does it mean to let AI observe and speculate on them? We introduce AI-rays, an interactive installation where AI generates speculative identities from participants' appearance which are expressed through synthesized personal items placed in participants' bags. It uses speculative X-ray visions to contrast reality with AI-generated assumptions, metaphorically highlighting AI's scrutiny and biases. AI-rays promotes discussions on modern surveillance and the future of human-machine reality through a playful, immersive experience exploring AI biases.