MajorTOM:Elliot Pretrain, A Multi-Sensor, Multi-Temporal Pretraining Dataset for Earth Observation

📄 arXiv: 2610.18624v1 📥 PDF

作者: Carmen Oliver Huidobro, Mikolaj Czerkawski, Kevin Monsalvez-Pozo, Cesar Aybar, Gustau Camps-Valls, Oscar J. Pellicer-Valero

分类: cs.CV, cs.LG

发布日期: 2026-10-13

💡 一句话要点

提出MajorTOM:Elliot Pretrain以解决地球观测数据预训练问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 地球观测 多传感器数据 预训练数据集 时空信息 模型训练

📋 核心要点

  1. 现有的地球观测数据集通常缺乏多传感器和多时间尺度的整合，限制了基础模型的预训练效果。
  2. 论文提出了MajorTOM:Elliot Pretrain数据集，整合多种传感器数据，提供丰富的时空信息以支持模型预训练。
  3. 实验表明，使用该数据集进行预训练的模型在多个基准测试中表现优于传统方法，验证了数据集的有效性。

📝 摘要（中文）

本论文介绍了MajorTOM:Elliot Pretrain，这是一个包含279,166个10公里瓦片的多传感器、多时间尺度的预训练数据集，旨在为地球观测基础模型的预训练提供支持。数据集结合了Sentinel-2、Landsat-8/9、Sentinel-1、Copernicus DEM和ESA WorldCover等多种传感器的数据，采用1056x1056像素的10米网格，并附有云掩模、OpenStreetMap实体和ERA5气象数据。数据集分为单时相、月度和突发三种时间模式，提供6.3 TB的云优化GeoTIFF格式，支持高效的数据访问和流式处理。实验结果显示，使用该数据集进行的预训练在多个基准测试中表现优异，验证了其设计的有效性。

🔬 方法详解

问题定义：论文旨在解决现有地球观测数据集在多传感器和多时间尺度整合方面的不足，限制了基础模型的预训练效果。

核心思路：通过构建MajorTOM:Elliot Pretrain数据集，结合多种传感器的数据和丰富的时空信息，提供一个一致且易于访问的预训练数据集。

技术框架：数据集包含279,166个10公里瓦片，整合了Sentinel-2、Landsat-8/9、Sentinel-1、Copernicus DEM和ESA WorldCover等数据，分为单时相、月度和突发三种时间模式，支持云优化GeoTIFF格式。

关键创新：该数据集的创新在于其多传感器和多时间尺度的整合，提供了丰富的时空信息，显著提升了模型预训练的效果。

关键设计：数据集采用1056x1056像素的10米网格，附带云掩模和气象数据，使用TACO v3 Parquet元数据进行索引，支持高效的数据访问和流式处理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，使用MajorTOM Core-S2L2A的25%子集在8个基准测试中表现与完整数据集相当或更优；在Elliot-Pretrain上，添加Landsat-8/9数据在所有基准测试中均有提升，验证了数据集的有效性。

🎯 应用场景

该研究的潜在应用领域包括环境监测、灾害响应、城市规划等，能够为地球观测领域的基础模型提供更为丰富和准确的数据支持，推动相关技术的发展与应用。

📄 摘要（原文）

Pretraining generalist Earth observation foundation models requires data that combine several sensors, varied temporal sampling and, increasingly, text, yet open datasets rarely provide all three in one consistent, easily accessible form. We introduce MajorTOM:Elliot Pretrain, a collection of 279,166 tiles of 10 km drawn from the Major-TOM grid by clustering AlphaEarth embeddings. Each tile stacks Sentinel-2 L1C, Landsat-8/9, Sentinel-1 RTC, Copernicus DEM and ESA WorldCover on a shared 1056x1056-pixel, 10 m grid, complemented by cloud masks, OpenStreetMap entities and ERA5 weather. The tiles are partitioned into three temporal regimes, Monotemporal (250,000 tiles, one acquisition), Monthly (12,500 tiles, twelve acquisitions spread over the annual cycle) and Burst (16,666 tiles, six acquisitions within 30 days), and are released as 6.3 TB of Cloud Optimized GeoTIFFs indexed by TACO v3 Parquet metadata, a standard that allows cloud streaming, efficient data access, and filtering before any pixel is read. A companion library derives sensor-tagged fact sheets, captions and 16 families of vision-language tasks from these layers at load time. We test our design choices in short pretraining runs of OlmoEarth-Base. First, a 25% subset of Major-TOM Core-S2L2A curated with AlphaEarth embeddings matches or exceeds the full corpus on 8 of 9 benchmarks. Second, on Elliot-Pretrain, adding Landsat-8/9 improves or matches Sentinel-2 only pretraining on every benchmark. Third, using DEM and WorldCover as prediction targets during pretraining further improves 8 of 9 benchmarks, while giving the same maps to the encoder as inputs degrades 5 of 9. Fourth, Sentinel-1 helps on 7 of 9 benchmarks, particularly on benchmarks with radar inputs. Fifth, rule-based captions match a small language model at no cost. The dataset is openly available at https://source.coop/major-tom/elliot-pretrain.