MEND: Label-Free Detection, Localisation, and Correction of Latent Hallucination in World Models

📄 arXiv: 2609.39182v1 📥 PDF

作者: Ali J Alrasheed, Aryan Yazdan Parast, Basim Azam, James Bailey, Naveed Akhtar

分类: cs.CV, cs.AI

发布日期: 2026-09-30

备注: Accepted at DICTA 2026 (International Conference on Digital Image Computing: Techniques and Applications). Camera-ready version

💡 一句话要点

提出MEND以解决世界模型中的潜在幻觉检测与修正问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 世界模型 潜在幻觉 去噪声评分匹配 条件评分网络 计算机视觉 鲁棒性 自动驾驶 机器人导航

📋 核心要点

  1. 现有的世界模型在处理潜在幻觉时缺乏有效的检测和修正机制，导致模型预测的错误无法被及时发现。
  2. 本文提出MEND方法，通过去噪声评分匹配技术，构建一个条件评分网络来检测、定位和修正潜在幻觉。
  3. 在实验中，MEND在两个导航环境中实现了高达0.80的AUROC，且在定位和修正潜在幻觉方面表现优异，显著提升了模型的预测准确性。

📝 摘要（中文）

世界模型作为计算机视觉的前沿技术，其鲁棒性尚未得到充分探索。本文识别了潜在幻觉现象，即在给定状态和动作的情况下，模型预测的下一个潜在状态可能解码为一个从未发生的场景。由于这种预测是统计上普通的，并且通过自回归方式反馈，导致错误是无声且累积的。我们研究了在没有真实错误标签的情况下，如何在推理时检测、定位和修正这种潜在幻觉。我们提出了Masked Empirical-Bayes Neural Denoising（MEND），这是一种通过去噪声评分匹配在真实转移上训练的条件评分网络，其评分场具有检测幻觉、定位特定图像区域和定义推理时修正方向的三重作用。在两个导航环境中，MEND在不使用动作的情况下检测幻觉的AUROC高达0.80，超越了单高斯密度基线，同时定位错误（每个token的AUPRC高达0.87）并进行修正，所有这些均来自一个评分场。我们的修正可靠地减少了单步潜在错误并改善了预测。

🔬 方法详解

问题定义：本文旨在解决世界模型中潜在幻觉的检测与修正问题。现有方法未能有效识别和处理模型在自回归预测中产生的无声且累积的错误。

核心思路：MEND方法通过构建一个条件评分网络，利用去噪声评分匹配技术，能够在没有真实标签的情况下实现对潜在幻觉的检测和修正。该设计旨在通过评分场的多重作用来提高模型的鲁棒性。

技术框架：MEND的整体架构包括三个主要模块：评分场的构建、幻觉的检测与定位、以及推理时的修正方向定义。评分场的幅度用于检测幻觉，按token定位错误，并提供修正方向。

关键创新：MEND的主要创新在于其单一评分场同时承担检测、定位和修正的功能，这与传统方法通常需要多个模型或步骤的做法形成鲜明对比。

关键设计：MEND采用去噪声评分匹配作为损失函数，网络结构设计为条件评分网络，关键参数设置经过实验优化，以确保在不同环境下的有效性。该方法在不依赖动作信息的情况下，依然能够实现高效的幻觉检测和修正。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MEND在两个导航环境中实现了高达0.80的AUROC，显著超越了单高斯密度基线。同时，MEND在定位潜在幻觉方面的每个token的AUPRC高达0.87，显示出其在检测和修正潜在错误方面的优越性能。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶、机器人导航和虚拟现实等场景。在这些领域中，确保模型的预测准确性和鲁棒性至关重要。MEND方法的有效性将为这些应用提供更可靠的支持，减少因潜在幻觉导致的错误决策，从而提升系统的整体性能和安全性。

📄 摘要（原文）

World Models are appearing as the next major frontier in computer vision. However, their robustness is currently largely unexplored. We identify the phenomenon of hallucination in latent World Models: given a state and an action, the predicted next latent can decode to a scene that never occurs. Because the prediction is statistically ordinary and is fed back autoregressively by the model, the error is both silent and compounding. We study whether such latent hallucination can be detected, localised, and corrected at inference time, on a frozen self-supervised world model in the absence of ground-truth error labels. We introduce Masked Empirical-Bayes Neural Denoising (MEND), a single conditional score network trained by denoising score matching on real transitions, whose score field serves three roles: its magnitude detects hallucination, its per-token field localises it to specific image patches, and it defines an inference-time correction direction. On two navigation environments MEND detects hallucination with an AUROC of up to 0.80 without using actions, exceeding a single-Gaussian density baseline while also localising the error (per-token AUPRC up to 0.87) and correcting it, all from one score field. Our correction reliably reduces single-step latent error and improves predictions. We identify that a part of the error is tangent to the data manifold, hence, we focus on detection and localisation while highlighting promises of the correction.