FairRSFM: A Biome-Aware Benchmark and Debiasing Framework for Remote Sensing Foundation Models
作者: Md Aminur Hossain, Omkumar Vaghasiya, Rajeev Ranjan Dwivedi, Vinod Kurmi, Biplab Banerjee
分类: cs.CV
发布日期: 2026-10-05
备注: 13
🔗 代码/项目: GITHUB
💡 一句话要点
提出FairRSFM以解决遥感基础模型的生态区域评估问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 遥感基础模型 生态评估 生物群落鲁棒性 性能差异 模型评估方法
📋 核心要点
- 现有的遥感基础模型评估方法往往使用聚合指标,导致生态区域间的性能差异被掩盖。
- 论文提出了FairRSFM基准,旨在通过生物群落意识的评估方法来解决生态组鲁棒性的问题。
- 实验结果表明,聚合性能掩盖了不同模型和任务间的生物群落依赖差异,BOLP等方法在特定任务上显著提升了性能。
📝 摘要(中文)
遥感基础模型(RSFMs)通常使用聚合指标进行评估,这可能掩盖生态区域间的系统性性能差异。我们提出FairRSFM,这是一个关注生物群落的基准,用于评估RSFMs在生态组的鲁棒性。FairRSFM将来自14个陆地生物群落类别的地理参考样本映射到六个生态宏组,并在统一的冻结骨干评估协议下评估模型。基准涵盖四个下游数据集,展示了聚合性能如何掩盖不同架构和任务间的生物群落依赖差异。我们进一步评估了生物群落正交线性探测(BOLP)、动态生物群落重加权(DBR)和GroupDRO作为补充的缓解基线。
🔬 方法详解
问题定义:本论文旨在解决遥感基础模型在不同生态区域评估中的系统性性能差异问题。现有方法通过聚合指标评估,未能揭示生态区域间的鲁棒性差异,导致模型在特定生物群落上的表现不佳。
核心思路:论文提出FairRSFM基准,通过将地理参考样本映射到生态宏组,采用统一的评估协议,来系统性地评估RSFMs在生态组的鲁棒性。此设计旨在揭示模型在不同生态环境下的真实表现。
技术框架:FairRSFM的整体架构包括数据集的构建、生态宏组的定义、模型评估协议的设计以及多种缓解策略的评估。主要模块包括生物群落分类、模型性能评估和缓解方法的比较。
关键创新:最重要的创新在于引入生物群落意识的评估框架,能够有效识别和量化模型在不同生态区域的表现差异。这一方法与传统的聚合评估方法本质上不同,能够提供更细致的性能分析。
关键设计:论文中使用了多个下游数据集(如m-EuroSAT、m-BigEarthNet等),并采用了生物群落正交线性探测(BOLP)、动态生物群落重加权(DBR)等技术细节,以增强模型在特定生态组的表现。
🖼️ 关键图片
📊 实验亮点
实验结果显示,Prithvi-EO-2.0在m-EuroSAT上的整体宏F1达到了90.98%,但在最差组的得分仅为83.72%。BOLP方法在m-BigEarthNet上将最差组F1@opt从46.12%提升至50.27%,显示出显著的性能改善。
🎯 应用场景
该研究的潜在应用领域包括生态监测、农业遥感和环境保护等。通过提供更准确的模型评估方法,FairRSFM能够帮助研究人员和从业者更好地理解和应对不同生态环境下的挑战,提升遥感技术的实际应用价值。
📄 摘要(原文)
Remote sensing foundation models (RSFMs) are commonly evaluated using aggregate metrics, which can hide systematic performance disparities across ecological regions. We introduce FairRSFM, a biome-aware benchmark for evaluating ecological group robustness in RSFMs. FairRSFM maps georeferenced samples from 14 terrestrial biome classes into six ecologically meaningful macro-groups and evaluates models under a unified frozen-backbone evaluation protocol. The benchmark covers four downstream datasets: m-EuroSAT, m-BigEarthNet, m-SA-Crop-Type, and MMEarth20K with Dynamic World label maps. Using Prithvi-EO-2.0, SatMAE, and DOFA across three random seeds, we show that aggregate performance consistently masks biome-dependent disparities across architectures and tasks. For example, Prithvi-EO-2.0 reaches 90.98% overall macro-F1 on m-EuroSAT but a mean worst-group score of only 83.72%, while m-SA-Crop-Type drops from 27.30% overall mIoU to 18.47% in the Xeric and Mineralogical group. We further evaluate Biome-Orthogonal Linear Probing (BOLP), Dynamic Biome Reweighting (DBR), and GroupDRO as complementary mitigation baselines. Their effectiveness is model- and task-dependent; for example, BOLP improves Prithvi-EO-2.0 worst-group F1@opt on m-BigEarthNet from 46.12% to 50.27% without updating the RSFM backbone. FairRSFM provides a reusable protocol for diagnosing and mitigating ecological robustness gaps in remote sensing foundation models. Code and datasets are available at: https://github.com/aminurhossain/FairRSFM.