Mitigating Object Hallucination via Concentric Causal Attention

📄 arXiv: 2410.15926v1 📥 PDF

作者: Yun Xing, Yiheng Li, Ivan Laptev, Shijian Lu

分类: cs.CV, cs.CL

发布日期: 2024-10-21

备注: To appear at NeurIPS 2024. Code is available at https://github.com/xing0047/cca-llava

💡 一句话要点

提出同心因果注意力（CCA）以缓解大型视觉语言模型中的对象幻觉问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉语言模型 对象幻觉 位置编码 旋转位置编码 同心因果注意力 多模态学习 注意力机制

📋 核心要点

  1. 大型视觉语言模型（LVLMs）存在对象幻觉问题，即生成与输入图像不符的文本，影响了模型的可靠性。
  2. 论文提出同心因果注意力（CCA），通过减少视觉和指令token之间的距离，缓解旋转位置编码（RoPE）的长期衰减问题。
  3. 实验结果表明，CCA在多个对象幻觉基准测试中显著优于现有方法，有效提升了模型的感知能力。

📝 摘要（中文）

现有的大型视觉语言模型（LVLMs）在多模态查询下展现了卓越的零样本对话和推理能力。然而，它们也存在对象幻觉问题，即LVLMs倾向于生成与图像输入不符的文本响应。我们的初步研究表明，对象幻觉与旋转位置编码（RoPE）密切相关，RoPE是现有LVLMs中广泛采用的位置依赖建模设计。由于RoPE的长期衰减，当相关的视觉线索与多模态输入序列中的指令token距离较远时，LVLMs更容易产生幻觉。此外，我们观察到在多模态对齐期间反转视觉token的顺序也会产生类似的影响。我们的测试表明，RoPE的长期衰减对LVLMs在捕获长距离视觉-指令交互时提出了挑战。我们提出了同心因果注意力（CCA），这是一种简单而有效的位置对齐策略，通过自然地减少视觉和指令token之间的相对距离来减轻RoPE长期衰减的影响。借助CCA，视觉token可以更好地与指令token交互，从而增强模型的感知能力并缓解对象幻觉。在没有任何额外技巧的情况下，我们的位置对齐方法在多个对象幻觉基准测试中大幅超越了现有的幻觉缓解策略。

🔬 方法详解

问题定义：论文旨在解决大型视觉语言模型（LVLMs）中存在的对象幻觉问题。现有方法在处理长距离视觉-指令交互时，由于旋转位置编码（RoPE）的长期衰减，导致模型更容易产生与图像内容不符的文本输出。这种幻觉现象降低了LVLMs的可靠性和实用性。

核心思路：论文的核心思路是通过调整视觉和指令token的位置关系，减少它们之间的相对距离，从而减轻RoPE长期衰减的影响。具体而言，通过将视觉token以同心圆的方式排列在指令token周围，使得视觉信息能够更有效地与指令信息进行交互。

技术框架：论文提出的同心因果注意力（CCA）主要涉及位置编码的调整。在传统的LVLM架构中，视觉和指令token按照线性顺序排列。CCA将视觉token重新排列，使其围绕指令token形成同心圆结构。这种结构改变了视觉token与指令token之间的相对距离，使得RoPE的衰减影响减小。

关键创新：CCA的关键创新在于其位置对齐策略。与传统的线性排列方式不同，CCA采用同心圆排列，从而在不改变模型结构的前提下，有效地缩短了视觉和指令token之间的距离，降低了RoPE长期衰减带来的负面影响。这种方法简单有效，易于实现。

关键设计：CCA的关键设计在于如何确定同心圆的半径和视觉token的排列顺序。论文中可能探讨了不同的半径设置和排列策略，以找到最佳的性能表现。此外，CCA需要与现有的注意力机制相结合，以实现视觉和指令信息的有效融合。具体的损失函数和网络结构可能保持不变，重点在于位置编码的调整。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

论文提出的CCA方法在多个对象幻觉基准测试中取得了显著的性能提升，大幅超越了现有的幻觉缓解策略。具体的性能数据和对比基线需要在论文中查找。实验结果表明，CCA能够有效地缓解RoPE长期衰减带来的负面影响，提升LVLMs的视觉感知能力。

🎯 应用场景

该研究成果可应用于各种需要可靠视觉信息理解的场景，例如自动驾驶、医疗影像诊断、智能客服等。通过减少对象幻觉，可以提高LVLMs在这些应用中的准确性和安全性，从而提升用户体验和降低潜在风险。未来，该方法有望推广到其他多模态任务中，进一步提升模型的感知能力。

📄 摘要（原文）

Recent Large Vision Language Models (LVLMs) present remarkable zero-shot conversational and reasoning capabilities given multimodal queries. Nevertheless, they suffer from object hallucination, a phenomenon where LVLMs are prone to generate textual responses not factually aligned with image inputs. Our pilot study reveals that object hallucination is closely tied with Rotary Position Encoding (RoPE), a widely adopted positional dependency modeling design in existing LVLMs. Due to the long-term decay in RoPE, LVLMs tend to hallucinate more when relevant visual cues are distant from instruction tokens in the multimodal input sequence. Additionally, we observe a similar effect when reversing the sequential order of visual tokens during multimodal alignment. Our tests indicate that long-term decay in RoPE poses challenges to LVLMs while capturing visual-instruction interactions across long distances. We propose Concentric Causal Attention (CCA), a simple yet effective positional alignment strategy that mitigates the impact of RoPE long-term decay in LVLMs by naturally reducing relative distance between visual and instruction tokens. With CCA, visual tokens can better interact with instruction tokens, thereby enhancing model's perception capability and alleviating object hallucination. Without bells and whistles, our positional alignment method surpasses existing hallucination mitigation strategies by large margins on multiple object hallucination benchmarks.