SAVOR: Self-Aware Visual Grounding via Confidence-Calibrated Reinforcement Learning for Multimodal Hallucination Mitigation

📄 arXiv: 2609.16601v1 📥 PDF

作者: Zixiu Ding, Zilin Zhao, Yingjie He, Xinlang Kang, Guansu Wang, Wei Zhang

分类: cs.CV

发布日期: 2026-09-15

备注: 33rd International Conference on Neural Information Processing (ICONIP 2026)

💡 一句话要点

提出SAVOR以解决多模态幻觉问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态大语言模型 视觉问答 图像描述 幻觉现象 置信度校准 策略优化 自我评估 机器学习

📋 核心要点

  1. 现有多模态大语言模型在生成视觉相关内容时，常常会出现与图像不符的幻觉现象，影响其可靠性。
  2. SAVOR通过引入置信度评估机制，优化策略以减少校准误差，并在不确定时重新审视视觉证据，从而提高模型的可靠性。
  3. 实验结果显示，SAVOR在多个基准数据集上表现优异，减少了幻觉现象，同时在预期校准误差上优于现有方法。

📝 摘要（中文）

多模态大语言模型（MLLMs）在视觉问答和图像描述方面取得了显著进展，但仍然会生成与图像无关的流畅描述。现有方法通常在测试时修改解码，增加延迟，或通过微调来优化答案偏好，但未能有效评估模型自身答案的可靠性。本文提出SAVOR，一个训练框架，通过增强输出模式以包含置信度，优化策略以减少校准误差，并在推理时仅在模型不确定时重新审视视觉证据。实验结果表明，SAVOR在减少幻觉的同时保持了模型的通用能力，并在预期校准误差上优于DPO和解码基线。

🔬 方法详解

问题定义：本文旨在解决多模态大语言模型在视觉问答和图像描述中产生的幻觉问题。现有方法往往在测试时增加延迟或通过微调优化答案偏好，但未能有效评估模型自身答案的可靠性。

核心思路：SAVOR的核心思路是通过引入置信度评估机制，使模型能够自我评估答案的可靠性，并在不确定时重新审视视觉证据，从而减少幻觉现象。

技术框架：SAVOR的整体架构包括三个主要模块：输出模式增强、策略优化和推理时的置信度应用。输出模式增强引入了令牌和答案的置信度，策略优化采用了群体相对策略优化（GRPO）目标，推理时仅在模型不确定时重新审视视觉证据。

关键创新：SAVOR的主要创新在于引入了置信度校准机制，优化了模型的决策过程，使其在不确定时能够做出更可靠的判断。这一设计与现有方法的本质区别在于，现有方法往往依赖于静态的答案偏好，而SAVOR则动态评估答案的可靠性。

关键设计：在关键设计方面，SAVOR采用了群体相对策略优化（GRPO）作为损失函数，重点惩罚校准误差和不良的放弃决策。此外，模型在推理时的置信度应用也经过精心设计，以确保在不确定时能够有效利用视觉证据。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果表明，SAVOR在POPE、HallusionBench、AMBER和MMHal-Bench等多个基准数据集上表现优异，显著减少了幻觉现象，同时在MME和MMBench上保持了较强的通用能力。与DPO和解码基线相比，SAVOR在预期校准误差上表现更佳，展现出更高的可靠性。

🎯 应用场景

SAVOR的研究成果具有广泛的应用潜力，尤其在需要高可靠性的视觉问答和图像描述任务中，如自动驾驶、智能监控和人机交互等领域。通过提高模型的可靠性，SAVOR能够在实际应用中减少错误信息的传播，提升用户体验和信任度。

📄 摘要（原文）

Multimodal large language models (MLLMs) have made strong progress on visual question answering and image captioning, yet they still produce fluent claims about objects, attributes, or relations that are not grounded in the image. Many remedies either modify decoding at test time, which adds latency, or fine tune with preferences such as DPO variants, which teach which answer is preferred but not when the model's own answer is unreliable. We argue that calibrated self assessment is the missing signal. We introduce Savor, a training framework that (i) augments the output schema with token and answer confidence, (ii) optimises the policy with a Group Relative Policy Optimisation (GRPO) objective that penalises calibration error and poor abstention decisions, and (iii) uses the learned confidence at inference time to revisit visual evidence only when the model is uncertain. Experiments on POPE, HallusionBench, AMBER and MMHal-Bench across two recent backbones (InternVL3-8B and Qwen3-VL-8B) show that Savor reduces hallucination while preserving general capability on MME and MMBench, with lower Expected Calibration Error than DPO and decoding baselines.