PBLH Estimation from Satellite Radiances via a Dual-Encoder Transformer
作者: Lorenzo Innocenti, Luca Catalano, Edoardo Arnaudo, Claudio Rossi, Salvatore Larosa, Domenico Cimini, Paolo Garza
分类: cs.CV, cs.LG
发布日期: 2026-09-23
备注: 13 pages, 3 figures, 2 tables. Extended version of the paper accepted at the MACLEAN workshop, ECML PKDD 2026. Code: https://github.com/links-ads/pblh-transformer
💡 一句话要点
提出双编码器Transformer以解决卫星辐射数据的PBLH估计问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 行星边界层高度 卫星观测 双编码器Transformer 多模态数据 回归问题 气象监测 环境科学
📋 核心要点
- 现有方法在从卫星观测中估计PBLH时面临多模态和空间不完整性的问题,导致性能受限。
- 本文提出了一种双编码器Transformer架构,能够处理不同天气条件下的卫星辐射数据,提升PBLH估计的准确性。
- 实验结果表明,所提模型在全球测试集上实现了MAE = 155.8米,超越了所有基线方法,显示出显著的性能提升。
📝 摘要(中文)
从卫星观测中估计行星边界层高度(PBLH)是一项具有挑战性的回归问题,因为大气顶层辐射与近地面大气结构之间存在间接关系。现有方法受限于缺乏能够处理卫星过境的多模态和空间不完整性的架构,以及合适数据集的稀缺。本文基于我们之前工作中引入的大规模数据集,做出了三项贡献:首先,建立了八种方法的基准;其次,使用分组Shapley分解量化模型的依赖;最后,提出了一种双编码器Transformer架构,能够在各种天气条件下运行,取得了MAE = 155.8米的优异表现。
🔬 方法详解
问题定义:本文旨在解决从卫星观测中估计行星边界层高度(PBLH)的回归问题。现有方法在处理多模态和空间不完整性方面存在不足,限制了其性能。
核心思路:论文提出了一种双编码器Transformer架构,利用其对掩蔽输入的处理能力,使其能够在各种天气条件下有效运行,从而提高PBLH的估计精度。
技术框架:整体架构包括数据预处理、双编码器Transformer模型的构建以及输出结果的后处理。模型通过对输入数据的多层次编码,提取出有用特征。
关键创新:最重要的创新点在于提出的双编码器Transformer架构,能够有效处理卫星观测数据的多模态特性,并在不同天气条件下保持稳定性能。
关键设计:模型采用了分组Shapley分解方法来量化输入块的依赖性,损失函数设计为适应回归任务,网络结构则结合了卷积层和Transformer层,以增强特征提取能力。
🖼️ 关键图片
📊 实验亮点
实验结果显示,所提双编码器Transformer模型在全球测试集上实现了MAE = 155.8米,超越了所有基线方法。在TEAMx观测活动期间的30个离散数据集上,模型也表现出色,MAE为165.3米,相较于同数据集上训练的像素级基线(MAE = 197米)有显著提升。
🎯 应用场景
该研究的潜在应用领域包括气象监测、环境科学和气候变化研究。通过准确估计PBLH,可以为天气预报、空气质量监测和气候模型提供重要数据支持,进而提升相关领域的研究和应用价值。
📄 摘要(原文)
Estimating the Planetary Boundary Layer Height (PBLH) from satellite observations is a challenging regression problem due to the indirect relationship between top-of-atmosphere radiances and near-surface atmospheric structure. Progress has been limited both by the lack of architectures capable of handling the multimodal, spatially incomplete nature of satellite overpasses, and by the scarcity of suitable datasets. In this paper, we build upon the large-scale dataset pairing MetOp radiances with ERA5 PBLH labels that we introduced in our previous work, making three contributions. First, we establish a benchmark across eight approaches spanning pixel-wise regression, swath-wise sequence models, and convolutional and Transformer models operating on the full orbital passage. Second, we quantify what the resulting model actually relies on, using grouped Shapley decomposition over the input blocks. Third, we present the best-performing architecture found: a dual-encoder Transformer whose masked-input handling lets it operate in all weather conditions. The proposed model achieves MAE = 155.8 m on the held-out global test set, outperforming all baselines on every evaluation subset. On 30 out-of-distribution granules acquired on two days overlapping the TEAMx observational campaign, it achieves MAE = 165.3 m, outperforming a pixel-wise baseline trained on the same data (MAE = 197 m).