Low-Latency MoE Inference in Space Data Centers: A Wireless-Power-Transfer Perspective
作者: Haotian Zheng, Zhanwei Wang, Kaibin Huang
分类: cs.DC, cs.AI, cs.NI
发布日期: 2026-10-22
备注: 13 pages, 11 figures
💡 一句话要点
提出SpaceWPT框架以解决空间数据中心的低延迟MoE推理问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 空间数据中心 混合专家 无线电力传输 推理优化 卫星网络 大规模计算 延迟降低
📋 核心要点
- 现有的MoE架构在空间数据中心中面临专家激活不均的问题,导致计算需求不平衡,影响推理效率。
- 本文提出SpaceWPT框架,通过激光无线电力传输技术,重新分配闲置专家的电力以满足活跃专家的计算需求。
- 实验结果显示,使用SpaceWPT框架的推理延迟比不使用WPT时降低了29.25%,在更紧凑的卫星编队中效果更显著。
📝 摘要(中文)
空间数据中心(SpaceDCs)作为大型语言模型(LLMs)的新兴平台,依赖于持续的太阳能收集和高速互联。然而,混合专家(MoE)架构在卫星间分布式推理时,由于专家激活的不均衡,导致计算需求不均,影响推理效率并增加延迟。为了解决这一供需不匹配问题,本文提出了SpaceWPT框架,利用基于激光的无线电力传输(WPT)技术重新分配收集的电力。通过简化WPT控制的设计原则,本文推导出平均推理延迟的可处理替代品,并提出了一种新颖的双侧水位填充策略,优化活跃专家的电力捐赠、保留或接收决策。仿真结果表明,与不使用WPT相比,推理延迟降低了29.25%。
🔬 方法详解
问题定义:本文旨在解决空间数据中心中混合专家架构的推理延迟问题,现有方法在专家激活不均时导致计算需求不平衡,造成电力资源浪费。
核心思路:提出SpaceWPT框架,通过激光无线电力传输技术在卫星之间重新分配电力,以平衡计算需求和电力供应,从而提高推理效率。
技术框架:框架主要包括电力收集、WPT控制和推理调度三个模块。电力收集模块负责从太阳能获取电力,WPT控制模块管理电力的传输和分配,推理调度模块优化专家的激活和电力使用策略。
关键创新:提出了一种双侧水位填充策略,能够根据水位和WPT链接效率动态决定每个活跃专家的电力捐赠、保留或接收策略,这是与现有方法的本质区别。
关键设计:设计中考虑了WPT损耗的影响,优化了电力传输的效率,并通过仿真验证了不同配置下的推理延迟表现。
🖼️ 关键图片
📊 实验亮点
实验结果表明,使用SpaceWPT框架的推理延迟比不使用WPT时降低了29.25%。在更紧凑的卫星编队和更高的电力传输效率下,性能提升更加显著,展示了该框架在实际应用中的巨大潜力。
🎯 应用场景
该研究的潜在应用领域包括空间通信、卫星网络和大规模分布式计算等。通过优化电力分配和推理效率,SpaceWPT框架能够显著提升空间数据中心的性能,推动未来智能卫星系统的发展与应用。
📄 摘要(原文)
Space data centers (SpaceDCs) are emerging as platforms for large language models (LLMs), supported by continuous solar-energy harvesting and high-speed interconnections. The mixture-of-experts (MoE) architecture supports distributed LLM inference by deploying experts across satellites. However, skewed expert activation creates uneven computation power demands despite uniform solar-power supply at the dawn-dusk sun-synchronous orbit (SSO). Consequently, active experts remain power-constrained while harvested power at idle experts is underused. These reduce inference efficiency and increase latency. To address this supply-demand mismatch, we propose the SpaceWPT framework, which uses inter-satellite laser-based wireless power transfer (WPT) to redistribute harvested power. The key design challenge is to balance the computation demands of power-donating and power-receiving satellites under WPT losses: transferring more power accelerates computation at the receiver but leaves less power for the donor. After deriving design principles that simplify WPT control, we characterize the resulting latency tradeoff through a tractable surrogate of average inference latency. Minimizing the surrogate yields a novel two-sided water-filling strategy that determines whether each active expert donates, retains, or receives power according to the water level and its WPT link efficiency. Simulations with Mixtral-8x7B and Phi-3.5-MoE show up to 29.25% lower inference latency than without WPT, with larger gains under more compact formations and higher transfer efficiencies.