RS-OPSD: Reliable Privileged On-Policy-Self-Distillation for Ultra-High-Resolution Remote Sensing VQA

📄 arXiv: 2609.38072v1 📥 PDF

作者: Chengjie Jiang, Yunqi Zhou, Jiafeng Yan, Sihang Zhao, Chun Yuan, Jing Li

分类: cs.CV

发布日期: 2026-09-29

备注: 16 pages, 7 figures

💡 一句话要点

提出RS-OPSD以解决超高分辨率遥感视觉问答问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 遥感视觉问答 自蒸馏 超高分辨率 视觉特权 数据集构建 人类反馈 性能提升

📋 核心要点

  1. 现有的遥感视觉问答方法在处理超高分辨率图像时，难以有效解析小规模的视觉证据，导致性能受限。
  2. 本文提出RS-OPSD框架，通过内部化放大视觉特权，利用高质量的特权信息来提升模型的问答能力。
  3. RS-OPSD在多个基准测试中取得了最先进的性能，尤其是RS-OPD-Lite在推理速度上超越了大多数8B规模的模型。

📝 摘要（中文）

超高分辨率遥感视觉问答（VQA）要求模型在极大图像中解析小的视觉证据。现有方法通常依赖于推理时的令牌修剪、视觉搜索或工具增强推理。本文提出RS-OPSD，一种可靠的特权在线自蒸馏框架，旨在将放大视觉特权内化到模型中。为提供高质量的特权信息，构建了GeoEvidence-6K数据集，并开发了人类反馈引导的技能精炼（HF-SR）方法。RS-OPSD在不增加额外视觉搜索或工具调用的情况下，在多个基准上实现了最先进的性能，平均提升4.0个百分点。我们的RS-OPD-Lite变体在推理速度上也表现优异。

🔬 方法详解

问题定义：本文解决超高分辨率遥感视觉问答中的小视觉证据解析问题。现有方法在推理时依赖视觉搜索和工具增强，导致效率低下和上下文丢失。

核心思路：RS-OPSD通过引入可靠的特权在线自蒸馏，旨在将放大视觉特权内化到模型中，以提高问答的准确性和效率。

技术框架：RS-OPSD框架包含多个模块，首先构建GeoEvidence-6K数据集以提供高质量的特权信息，然后通过HF-SR进行可扩展注释，最后利用CPVP和CAD来解决上下文丢失和信号冲突问题。

关键创新：RS-OPSD的核心创新在于引入了上下文保留视觉特权（CPVP）和正确性对齐蒸馏（CAD），这与传统方法的依赖外部工具和搜索的方式有本质区别。

关键设计：在模型设计中，采用了特定的损失函数来优化蒸馏过程，并通过精细的参数设置来确保模型在推理时的高效性和准确性。具体细节包括对特权信息的选择和使用策略。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

RS-OPSD在XLRS-Bench、MME-RealWorld-RS和LRS-VQA等多个基准上实现了最先进的性能，平均提升4.0个百分点。此外，RS-OPD-Lite在推理速度上超越了大多数8B规模的模型，展示了其高效性。

🎯 应用场景

该研究的潜在应用领域包括遥感图像分析、环境监测和城市规划等。通过提升超高分辨率图像的问答能力，RS-OPSD能够为决策支持系统提供更为精准的信息，进而推动相关领域的发展与应用。

📄 摘要（原文）

Ultra-high-resolution (UHR) remote sensing visual question answering (VQA) requires models to resolve small visual evidence within extremely large images. Existing approaches typically rely on token pruning, visual search, or tool-augmented reasoning at inference time. We instead investigate whether the benefit of zoom-in visual privilege can be internalized into the model. We introduce RS-OPSD, a reliable privileged on-policy self-distillation (OPSD) framework for UHR remote sensing VQA. To provide high-quality privileged information with explicit question-relevant evidence, we construct GeoEvidence-6K, containing 6,750 VQA samples across seven task categories with evidence-region annotations, and develop Human Feedback-Guided Skill Refinement (HF-SR) for scalable annotation. To address context loss from tight crops and conflicting signals from imperfect teachers, RS-OPSD introduces Context-Preserving Visual Privilege (CPVP) and Correctness-Aligned Distillation (CAD). Without any additional visual search or tool calls at inference time, RS-OPSD achieves state-of-the-art (SOTA) performance on XLRS-Bench, MME-RealWorld-RS, and LRS-VQA, outperforming pervious SOTA models of comparable scale by an average of 4.0 percentage points. Moreover, our 2B variant, RS-OPD-Lite, surpasses most 8B-scale models while achieving the fastest measured inference speed. Our Code, GeoEvidence-6K, and the model weights for RS-OPSD and RS-OPD-Lite are publicly available.