Nullu: Mitigating Object Hallucinations in Large Vision-Language Models via HalluSpace Projection

📄 arXiv: 2412.13817v3 📥 PDF

作者: Le Yang, Ziwei Zheng, Boxu Chen, Zhengyu Zhao, Chenhao Lin, Chao Shen

分类: cs.CV

发布日期: 2024-12-18 (更新: 2025-03-17)

备注: CVPR 2025

🔗 代码/项目: GITHUB

💡 一句话要点

Nullu：通过HalluSpace投影缓解大型视觉语言模型中的对象幻觉问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉语言模型 对象幻觉 零空间投影 HalluSpace 模型编辑 知识抑制 图像描述

📋 核心要点

  1. 大型视觉语言模型易受对象幻觉影响，现有方法难以有效缓解且可能引入额外计算负担。
  2. Nullu通过识别并利用HalluSpace，将输入特征投影到该空间的零空间，抑制LLM的先验知识。
  3. 实验证明Nullu能有效缓解多种LVLM中的对象幻觉，且无需额外推理成本，并在通用基准上表现出色。

📝 摘要（中文）

本文提出了一种名为Nullu的有效方法，旨在缓解大型视觉语言模型（LVLMs）中存在的对象幻觉（OH）问题。该方法基于一个“不安全子空间”编辑模型权重，本文称之为HalluSpace。通过将真实和幻觉文本提示与视觉内容一起作为输入，可以提取幻觉嵌入特征并移除真实表示，从而识别LVLMs中的HalluSpace。通过正交化模型权重，输入特征将被投影到HalluSpace的零空间中，以减少OH。研究表明，HalluSpace通常包含大型语言模型（LLMs）中的先验信息，而这些先验信息已被证明是OH的重要原因。因此，零空间投影抑制了LLMs的先验知识，从而过滤掉幻觉特征，产生上下文准确的输出。实验表明，该方法可以有效地缓解不同LVLM系列中的OH，且无需额外的推理成本，并在通用LVLM基准测试中表现出强大的性能。

🔬 方法详解

问题定义：大型视觉语言模型（LVLMs）在生成描述时，经常出现与图像内容不符的对象，即对象幻觉（Object Hallucination, OH）。现有方法通常需要额外的训练或推理步骤，增加了计算成本，并且缓解效果有限。论文旨在提出一种高效的方法，能够在不增加推理成本的前提下，有效缓解LVLMs中的对象幻觉问题。

核心思路：论文的核心思路是识别并利用一个名为HalluSpace的“不安全子空间”，该空间包含了导致对象幻觉的特征信息。通过将输入特征投影到HalluSpace的零空间（Null space），可以抑制模型对幻觉信息的激活，从而减少对象幻觉的发生。这种方法的核心在于利用线性代数的零空间投影，在特征层面进行干预，避免了对模型参数的大规模修改。

技术框架：Nullu方法主要包含以下几个步骤：1) HalluSpace识别：使用包含真实描述和幻觉描述的文本提示，结合视觉内容作为输入，提取LVLM中的嵌入特征。通过对比真实描述和幻觉描述的特征差异，确定HalluSpace。2) 权重正交化：对模型权重进行正交化处理，使其与HalluSpace正交。3) 零空间投影：将输入特征投影到HalluSpace的零空间中，从而抑制幻觉特征。4) 生成描述：使用投影后的特征生成图像描述。整个过程无需额外的训练，可以直接应用于预训练的LVLM。

关键创新：Nullu的关键创新在于提出了HalluSpace的概念，并利用零空间投影来缓解对象幻觉。与现有方法相比，Nullu不需要额外的训练数据或推理步骤，因此更加高效。此外，Nullu通过抑制LLM的先验知识来减少幻觉，这与以往的研究思路有所不同。

关键设计：HalluSpace的识别依赖于高质量的真实描述和幻觉描述。论文中具体如何生成这些描述的细节未知。零空间投影的具体实现方式，例如使用SVD分解等，也需要在论文中进一步阐述。此外，权重正交化的具体方法，以及如何保证正交化过程不影响模型的其他性能，也是关键的设计细节。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Nullu方法能够有效缓解不同LVLM系列（具体模型未知）中的对象幻觉问题，且无需额外的推理成本。在通用LVLM基准测试中，Nullu也表现出强大的性能（具体指标和提升幅度未知）。这些结果表明，Nullu是一种高效且通用的对象幻觉缓解方法。

🎯 应用场景

Nullu方法可广泛应用于各种视觉语言任务，例如图像描述生成、视觉问答等。通过减少对象幻觉，可以提高LVLM在这些任务中的可靠性和准确性。该方法尤其适用于对安全性要求较高的场景，例如自动驾驶、医疗诊断等，在这些场景中，错误的图像描述可能会导致严重的后果。未来，Nullu可以进一步扩展到其他类型的幻觉问题，例如属性幻觉、关系幻觉等。

📄 摘要（原文）

Recent studies have shown that large vision-language models (LVLMs) often suffer from the issue of object hallucinations (OH). To mitigate this issue, we introduce an efficient method that edits the model weights based on an unsafe subspace, which we call HalluSpace in this paper. With truthful and hallucinated text prompts accompanying the visual content as inputs, the HalluSpace can be identified by extracting the hallucinated embedding features and removing the truthful representations in LVLMs. By orthogonalizing the model weights, input features will be projected into the Null space of the HalluSpace to reduce OH, based on which we name our method Nullu. We reveal that HalluSpaces generally contain prior information in the large language models (LLMs) applied to build LVLMs, which have been shown as essential causes of OH in previous studies. Therefore, null space projection suppresses the LLMs' priors to filter out the hallucinated features, resulting in contextually accurate outputs. Experiments show that our method can effectively mitigate OH across different LVLM families without extra inference costs and also show strong performance in general LVLM benchmarks. Code is released at https://github.com/Ziwei-Zheng/Nullu.