Mitigating Cross-Modal Hallucinations by Correcting Modality Misrouting in Omnimodal LLMs

📄 arXiv: 2610.18141v1 📥 PDF

作者: Yu Mi, Licheng Pan, Jiayi Zhu, Qirui Liu, Yitong Qiao, Changtong Xu, Tao Wei, Fei Sun, Zhixuan Chu, Kui Ren

分类: cs.AI

发布日期: 2026-10-13

备注: 21 pages, 10 figures

💡 一句话要点

提出CaRe方法以解决多模态大语言模型中的模态误导问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态大语言模型 模态误导 跨模态幻觉 推理时干预 文本模态探针 残差引导 音视频干扰 智能助手

📋 核心要点

  1. 现有的多模态大语言模型在音视频干扰下容易产生跨模态幻觉，导致错误的联合预测。
  2. 论文提出的CaRe方法通过识别和纠正模态误导，利用文本模态探针来引导模型恢复正确答案。
  3. 实验结果显示，CaRe在多个基准测试中表现优异，超越了现有的推理时幻觉缓解方法。

📝 摘要（中文）

多模态大语言模型（OLLMs）在音视频干扰下易受跨模态幻觉影响。研究发现，对于相当一部分错误的联合预测，相关的单模态分支仍能恢复正确答案，这表明即使在联合预测中未反映，任务相关的证据仍可从相关模态中恢复。我们称这种可恢复的失败模式为模态误导。为此，提出了一种无训练的推理时方法CaRe（冲突感知残差干预），用于识别和纠正模态误导。CaRe利用文本模态探针识别候选的模态特定反事实分支，并在其预测与原始联合预测冲突时标记潜在的误导。对于这种情况，CaRe计算反事实与融合表示之间的残差方向，并利用该方向引导原始多模态状态朝向相关模态证据，同时保留原始音视频推理路径中的两个模态。实验结果表明，CaRe在CMM和AVHBench上始终优于评估的推理时幻觉缓解基线。

🔬 方法详解

问题定义：本论文旨在解决多模态大语言模型在音视频干扰下产生的跨模态幻觉问题。现有方法在处理模态信息时存在误导现象，导致错误的联合预测。

核心思路：论文提出的CaRe方法通过识别模态误导并进行干预，利用文本模态探针识别候选的模态特定反事实分支，从而提高模型的预测准确性。

技术框架：CaRe的整体架构包括三个主要模块：文本模态探针用于识别反事实分支，冲突检测模块用于判断预测冲突，残差引导模块用于调整原始多模态状态。

关键创新：CaRe的核心创新在于其无训练的推理时干预机制，通过计算反事实与融合表示之间的残差方向来调整模型的输出，与现有方法相比，提供了一种新的思路来处理模态误导问题。

关键设计：在设计中，CaRe根据反事实分支的置信度调整干预强度，确保模型在保留原始音视频推理路径的同时，能够有效地利用相关模态证据。实验中采用了CMM和AVHBench数据集进行验证。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在CMM和AVHBench的实验中，CaRe方法在推理时幻觉缓解方面表现出色，相较于基线方法，准确率提升幅度达到了XX%（具体数据待补充），显示出其在处理模态误导问题上的有效性。

🎯 应用场景

该研究的潜在应用领域包括多模态信息检索、智能助手和自动化内容生成等。通过提高多模态大语言模型的准确性，CaRe方法能够显著提升用户体验和系统的实用性，未来可能在智能交互和人机协作中发挥重要作用。

📄 摘要（原文）

Omnimodal large language models (OLLMs) are susceptible to cross-modal hallucinations under audio-visual interference. We find that, for a substantial fraction of incorrect joint predictions, the question-relevant unimodal branch can still recover the correct answer, suggesting that task-relevant evidence can remain recoverable from the relevant modality even when it is not reflected in the joint prediction. We refer to this recoverable failure pattern as \emph{modality misrouting}. We propose CaRe (Conflict-aware Residual Intervention), a training-free inference-time method for identifying and correcting modality misrouting. CaRe uses a text-only modality probe to identify a candidate modality-specific counterfactual branch, and flags potential misrouting when its prediction conflicts with the original joint prediction. For such cases, CaRe computes a residual direction from the discrepancy between the counterfactual and fused representations and uses it to steer the original multimodal state toward the relevant modality evidence, while retaining both modalities in the original audio-visual inference path. The intervention strength is adapted based on the confidence of the counterfactual branch. Experiments on CMM and AVHBench across two OLLMs show that CaRe consistently outperforms the evaluated inference-time hallucination-mitigation baselines.