FM-RME: Foundation Model Empowered Radio Map Estimation
作者: Dong Yang, Yue Wang, Songyang Zhang, Yingshu Li, Zhipeng Cai, Zhi Tian
分类: eess.SP, cs.AI, cs.LG
发布日期: 2026-02-28
💡 一句话要点
提出FM-RME，赋能多维无线电地图估计，实现零样本泛化。
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 无线电地图估计 基础模型 自监督学习 零样本泛化 多维估计
📋 核心要点
- 传统RME方法难以捕捉复杂频谱环境的多维动态特性，数据驱动方法忽略物理先验知识，数据效率受限。
- FM-RME通过自监督预训练，结合几何感知特征提取和注意力机制，学习可泛化的频谱表示。
- FM-RME在多维RME上实现了零样本推理，仿真结果验证了其在不同数据集上的学习性能和泛化能力。
📝 摘要（中文）
传统的无线电地图估计(RME)技术难以捕捉复杂频谱环境的多维和动态特性。最近的数据驱动方法在空间域实现了精确的RME，但忽略了无线电传播的物理先验知识，限制了数据效率，尤其是在多维场景中。为了克服这些限制，我们提出了一种新的基础模型FM-RME，其特点是通过在多样化数据上进行自监督预训练来实现零样本泛化，从而实现多维无线电地图估计。具体来说，FM-RME有效地结合了两个核心组件：一个几何感知特征提取模块，它将物理传播对称性（即平移和旋转不变性）编码为归纳偏置；以及一个基于注意力的神经网络，它学习跨空间-时间-频谱域的远程相关性。进一步开发了一种掩码自监督多维预训练策略，以学习跨不同无线环境的可泛化频谱表示。一旦经过预训练，FM-RME支持多维RME的零样本推理，包括空间、时间和频谱估计，而无需特定场景的重新训练。仿真结果验证了FM-RME在不同数据集上表现出理想的学习性能，以及超越现有RME方法的零样本泛化能力。
🔬 方法详解
问题定义：论文旨在解决传统无线电地图估计（RME）方法在复杂频谱环境中，难以有效捕捉多维（空间、时间、频谱）动态特性的问题。现有数据驱动方法虽然在空间域表现良好，但忽略了无线电传播的物理先验知识，导致数据效率低下，尤其是在多维场景下，需要大量特定场景的数据进行训练。
核心思路：论文的核心思路是利用基础模型（Foundation Model）的强大表征学习能力，通过自监督预训练，使模型能够学习到通用的频谱表示，从而实现多维RME的零样本泛化。通过结合几何感知特征提取模块和注意力机制，模型能够更好地理解物理传播规律和跨域相关性。
技术框架：FM-RME的技术框架主要包含两个核心模块：1) 几何感知特征提取模块：该模块旨在编码物理传播的对称性，例如平移和旋转不变性，作为模型的归纳偏置，从而提高数据效率。2) 基于注意力的神经网络：该模块用于学习跨空间、时间、频谱域的远程相关性，从而更好地理解复杂频谱环境。此外，还设计了一种掩码自监督多维预训练策略，用于学习通用的频谱表示。整体流程是先进行预训练，然后在目标场景进行零样本推理。
关键创新：论文的关键创新在于提出了FM-RME，一种基于基础模型的多维无线电地图估计方法，它通过自监督预训练和几何感知特征提取，实现了零样本泛化能力。与现有方法相比，FM-RME无需针对特定场景进行重新训练，即可在多维RME任务上取得良好的性能。
关键设计：几何感知特征提取模块的具体实现方式未知，但其核心思想是利用物理传播的对称性来约束模型的学习。注意力机制的具体结构也未知，但其作用是学习跨域的远程相关性。掩码自监督预训练策略的具体实现方式也未知，但其目标是学习通用的频谱表示。损失函数的设计也未知，但应该能够促进模型学习到物理传播规律和跨域相关性。
🖼️ 关键图片
📊 实验亮点
论文通过仿真实验验证了FM-RME的有效性。实验结果表明，FM-RME在不同数据集上表现出理想的学习性能，并且具有超越现有RME方法的零样本泛化能力。具体的性能数据和对比基线未知，但论文强调了FM-RME在多维RME任务上的优越性。
🎯 应用场景
FM-RME具有广泛的应用前景，例如：智能频谱管理、无线网络规划与优化、无线电环境感知、认知无线电等领域。通过实现多维无线电地图的精确估计，可以提高频谱利用率，优化网络性能，并为无线通信系统的智能化提供支持。未来，FM-RME有望应用于更复杂的无线通信场景，例如：异构网络、动态频谱接入等。
📄 摘要（原文）
Traditional radio map estimation (RME) techniques fail to capture multi-dimensional and dynamic characteristics of complex spectrum environments. Recent data-driven methods achieve accurate RME in spatial domain, but ignore physical prior knowledge of radio propagation, limiting data efficiency especially in multi-dimensional scenarios. To overcome such limitations, we propose a new foundation model, characterized by self-supervised pre-training on diverse data for zero-shot generalization, enabling multi-dimensional radio map estimation (FM-RME). Specifically, FM-RME builds an effective synergy of two core components: a geometry-aware feature extraction module that encodes physical propagation symmetries, i.e., translation and rotation invariance, as inductive bias, and an attention-based neural network that learns long-range correlations across the spatial-temporal-spectral domains. A masked self-supervised multi-dimensional pre-training strategy is further developed to learn generalizable spectrum representations across diverse wireless environments. Once pre-trained, FM-RME supports zero-shot inference for multi-dimensional RME, including spatial, temporal, and spectral estimation, without scenario-specific retraining. Simulation results verify that FM-RME exhibits desired learning performance across diverse datasets and zero-shot generalization capabilities beyond existing RME methods.