Space Network of Experts: Architecture and Expert Placement
作者: Zhanwei Wang, Huiling Yang, Min Sheng, Khaled B. Letaief, Kaibin Huang
分类: cs.DC, cs.AI, cs.NI
发布日期: 2026-05-01
💡 一句话要点
提出Space-XNet框架，解决星载网络中MoE模型的高效分布式部署问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 星载计算 大规模语言模型 混合专家模型 分布式推理 卫星网络 资源优化 低延迟 专家放置
📋 核心要点
- 现有方法难以在资源受限的卫星网络中高效部署大规模语言模型，尤其是在混合专家模型上。
- Space-XNet通过两级放置策略，将MoE层和专家分别映射到卫星子网和卫星上，优化通信延迟。
- 实验结果表明，Space-XNet相比传统方法，显著降低了token生成延迟，提升了模型推理效率。
📝 摘要（中文）
本文提出了一种名为Space Network of Experts (Space-XNet) 的框架，旨在解决在卫星网络中高效分布式部署大规模语言模型（LLM）的问题，特别是针对混合专家模型（MoE）。由于星载计算和通信资源的限制，如何将模型组件划分并映射到卫星上，以协调模型架构和网络拓扑，从而实现低延迟的token生成是一个关键挑战。Space-XNet采用两级放置策略：首先进行层放置，将MoE层分配到卫星子网；然后进行层内专家放置，将各个专家分配到与同一层/子网关联的卫星。层放置利用自回归推理的环状通信模式，将卫星星座沿轨道方向划分为环状排列的子网，每个子网托管一个MoE层。在此基础上，论文构建并求解了一个优化问题，用于层内专家放置，将具有异构激活概率的专家映射到卫星上。该策略揭示了一个直观的原则：频繁激活的专家应映射到具有低预期延迟的路由路径上的卫星。在数千颗卫星星座上的实验表明，与传统的随机和基于消融的放置策略相比，Space-XNet实现了至少三倍的延迟降低。
🔬 方法详解
问题定义：论文旨在解决在卫星网络中部署大规模混合专家模型（MoE）时，由于星载计算和通信资源有限，导致模型推理延迟高的问题。现有方法，如随机放置或基于消融的放置策略，无法充分利用卫星网络的拓扑结构和MoE模型的特性，导致通信开销大，推理效率低。
核心思路：论文的核心思路是将MoE模型的层和专家分别映射到卫星网络的子网和卫星上，通过优化层和专家的放置策略，最小化token生成的延迟。利用MoE模型中专家激活概率的异构性，将频繁激活的专家放置在通信延迟较低的卫星节点上，从而提高整体推理效率。
技术框架：Space-XNet框架包含两个主要阶段：层放置和层内专家放置。首先，根据自回归推理的环状通信模式，将卫星星座划分为环状排列的子网，每个子网负责托管一个MoE层。然后，在每个子网内部，根据专家的激活概率和卫星之间的通信延迟，将专家分配到不同的卫星上。整个框架旨在协调模型架构和网络拓扑，实现低延迟的token生成。
关键创新：该论文的关键创新在于提出了一个两级放置策略，充分利用了卫星网络的拓扑结构和MoE模型的特性。通过将MoE层映射到卫星子网，并根据专家的激活概率优化专家在子网内的放置，实现了通信延迟的最小化。此外，论文还提出了一个直观的原则：频繁激活的专家应映射到具有低预期延迟的路由路径上的卫星。
关键设计：在层放置阶段，论文利用了自回归推理的环状通信模式，将卫星星座划分为环状排列的子网。在层内专家放置阶段，论文构建了一个优化问题，目标是最小化token生成的延迟。该优化问题考虑了专家的激活概率、卫星之间的通信延迟以及卫星的计算能力等因素。论文还设计了一种启发式算法来求解该优化问题，从而实现高效的专家放置。
🖼️ 关键图片
📊 实验亮点
实验结果表明，在数千颗卫星的星座中，Space-XNet框架相比传统的随机放置和基于消融的放置策略，实现了至少三倍的延迟降低。这表明Space-XNet能够显著提高星载大规模语言模型的推理效率，并为未来的空间人工智能应用提供有力的支持。
🎯 应用场景
Space-XNet框架可应用于在卫星网络中部署各种大规模语言模型，例如用于智能卫星遥感、星载数据分析、空间通信等领域。通过高效的分布式推理，可以实现更快的响应速度和更低的能耗，从而提升卫星任务的执行效率和智能化水平。该研究为未来空间人工智能的发展奠定了基础。
📄 摘要（原文）
Leveraging continuous solar energy harvesting at high efficiency, space data centers are envisioned as a promising platform for executing energy-intensive large language models (LLMs). Recognizing this advantage, space and AI conglomerates (e.g., SpaceX, Google) are actively investing in this vision. One key challenge, however, is the efficient distributed deployment of a large-scale LLM in a satellite network due to the limited onboard computing and communication resources. This gives rise to a placement problem that involves partitioning and mapping model components to satellites such that the fundamentally different model architecture and network topology can be reconciled to ensure low-latency token generation. To address this problem, we present the Space Network of Experts (Space-XNet) framework targeting the distributed execution of a popular mixture-of-experts (MoE) model in space. The proposed placement strategies are two-level: (1) layer placement, which assigns MoE layers to satellite subnets; and (2) intra-layer expert placement, which assigns individual experts to satellites associated with the same layer/subnet. For layer placement, we exploit the ring-like communication pattern of autoregressive inference to partition the satellite constellation along the orbiting direction into subnets arranged on a ring, each hosting one MoE layer. Based on this architecture, we formulate and solve an optimization problem for intra-layer expert placement to map experts with heterogeneous activation probabilities onto satellites. The derived strategy reveals an intuitive principle: a frequently activated expert should be mapped to a satellite on a routing path with low expected latency. Experiments over a thousand-satellite constellation show that Space-XNet achieves at least a threefold latency reduction compared with conventional random and ablation-based placement strategies.