SCENE OTA-FD: Self-Centering Noncoherent Estimator for Over-the-Air Federated Distillation

📄 arXiv: 2602.15326v1 📥 PDF

作者: Hao Chen, Zavareh Bozorgasl

分类: eess.SP, cs.AI, cs.DC, cs.LG

发布日期: 2026-02-17

备注: Work in progress. Codes will be available on: https://github.com/zavareh1

💡 一句话要点

提出SCENE，用于无线联邦蒸馏的自定心非相干估计器

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 无线联邦学习 非相干通信 联邦蒸馏 自定心估计 无导频传输

📋 核心要点

  1. 现有无线联邦学习方法依赖信道状态信息(CSI)，在短相干时间和硬件约束场景下，导频开销成为瓶颈。
  2. SCENE通过自定心非相干估计，无需导频即可实现软标签的无偏聚合，降低了通信开销，提升了硬件友好性。
  3. 实验结果表明，在导频开销较大时，SCENE的性能优于依赖CSI的相干设计，验证了其有效性。

📝 摘要（中文）

本文提出了一种用于无线联邦蒸馏(OTA-FD)的自定心非相干估计器(SCENE)，它是一种无需导频且相位不变的聚合方法。每个设备将其软标签（类别概率）向量映射为非负的发射能量，在每个回合保持恒定的功率和恒定包络信号（PAPR接近1）。在服务器端，自定心能量估计器消除了噪声能量偏移，从而产生加权软标签平均值的无偏估计，其方差随着接收天线数量M和重复因子S的增加而以1/(SM)的量级衰减。我们还开发了一种无需导频的比例归一化变体，可以消除未知的大尺度增益，提供与相干OTA-FD分析一致的收敛界限，并提出了基于开销的交叉比较。SCENE针对短相干和硬件受限的场景，在这些场景中，避免每回合的CSI至关重要：它以适度的非相干方差常数为代价，实现了零上行链路导频、无偏聚合和硬件友好的传输，并且在导频开销不可忽略时可以优于相干设计。

🔬 方法详解

问题定义：无线联邦蒸馏(OTA-FD)旨在利用无线信道的叠加特性高效聚合客户端模型，但传统方法需要估计信道状态信息(CSI)，这在短相干时间和硬件受限的场景下会引入显著的导频开销，降低通信效率。现有方法难以在无需CSI的情况下实现准确的模型聚合。

核心思路：SCENE的核心在于利用非相干通信，避免显式估计CSI。它通过将软标签信息映射到发射能量，并在接收端采用自定心能量估计器消除噪声能量偏移，从而实现对加权软标签平均值的无偏估计。这种设计避免了导频传输，降低了通信开销，并简化了硬件实现。

技术框架：SCENE的整体框架包括以下步骤：1) 客户端将软标签向量映射为非负发射能量，并采用恒定包络信号进行传输。2) 服务器接收来自所有客户端的叠加信号。3) 服务器使用自定心能量估计器估计加权软标签平均值，该估计器通过消除噪声能量偏移来实现无偏估计。4) 服务器利用估计的软标签平均值进行模型更新。

关键创新：SCENE的关键创新在于其自定心非相干估计器，该估计器能够在无需CSI的情况下实现对加权软标签平均值的无偏估计。与传统需要CSI的相干方法相比，SCENE避免了导频开销，提高了通信效率。此外，SCENE还提出了一种比例归一化变体，可以消除未知的大尺度增益，进一步增强了其鲁棒性。

关键设计：SCENE的关键设计包括：1) 软标签到发射能量的映射方式，确保非负性和恒定包络。2) 自定心能量估计器的具体实现，包括噪声能量偏移的估计和消除方法。3) 比例归一化变体的设计，用于消除未知的大尺度增益。此外，论文还分析了SCENE的方差特性，并给出了收敛性界限。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SCENE在无需导频的情况下实现了与相干OTA-FD相当的性能，并在导频开销较大时优于相干设计。实验结果表明，SCENE能够有效地降低通信开销，提高训练效率，并简化硬件实现。具体的性能提升幅度取决于导频开销的大小和信道条件。

🎯 应用场景

SCENE适用于资源受限的无线联邦学习场景，例如物联网设备、移动边缘计算等。它能够降低通信开销，提高训练效率，并简化硬件实现，从而推动联邦学习在边缘设备的广泛应用。此外，SCENE还可以应用于其他需要无线信道聚合的场景，例如分布式传感、协同通信等。

📄 摘要（原文）

We propose SCENE (Self-Centering Noncoherent Estimator), a pilot-free and phase-invariant aggregation primitive for over-the-air federated distillation (OTA-FD). Each device maps its soft-label (class-probability) vector to nonnegative transmit energies under constant per-round power and constant-envelope signaling (PAPR near 1). At the server, a self-centering energy estimator removes the noise-energy offset and yields an unbiased estimate of the weighted soft-label average, with variance decaying on the order of 1/(SM) in the number of receive antennas M and repetition factor S. We also develop a pilot-free ratio-normalized variant that cancels unknown large-scale gains, provide a convergence bound consistent with coherent OTA-FD analyses, and present an overhead-based crossover comparison. SCENE targets short-coherence and hardware-constrained regimes, where avoiding per-round CSI is essential: it trades a modest noncoherent variance constant for zero uplink pilots, unbiased aggregation, and hardware-friendly transmission, and can outperform coherent designs when pilot overhead is non-negligible.