Understanding Trajectory Heterogeneity in Federated World Model Learning
作者: Yipan Wei, Zhaokun Yan, Ziming Hong, Jiaqi Wu, Lixu Wang
分类: cs.LG, cs.CL
发布日期: 2026-10-02
💡 一句话要点
提出针对联邦世界模型学习的轨迹异质性理解方法
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 联邦学习 世界模型 轨迹异质性 临床预测 MIMIC-IV 算法评估 时间窗口 严重性划分
📋 核心要点
- 现有方法在处理轨迹异质性时面临所有权边界限制，影响了模型的训练效果。
- 论文提出通过细分严重性、患者分离构建和本地历史规则等方法，优化联邦学习中的轨迹使用。
- 实验结果显示，只有7.55%-21.36%的窗口在训练中被本地完整锚点访问，且FedProx算法在误差上有小幅提升。
📝 摘要（中文）
世界模型通过轨迹学习状态演变，因此对时间上下文的访问是训练的核心要求。联邦学习可以利用分布式记录，但轨迹中的所有权边界限制了每个客户端可以构建的示例。本文通过对八个MIMIC-IV疾病队列进行每小时动作条件的临床预测，基准测试了这一跨时间设置，涉及4087万次转移记录。研究结果表明，客户端所有权和参与度共同限制了长窗口覆盖，细粒度的严重性划分伴随更高的FedAvg误差，算法标签隐藏了不同的更新行为。这些结果为评估联邦临床世界模型提供了互补维度。
🔬 方法详解
问题定义：本文旨在解决联邦学习中轨迹异质性对模型训练的影响，现有方法在所有权边界和参与度方面存在不足，限制了模型的有效性。
核心思路：通过引入严重性基础的客户端所有权、患者分离构建和本地历史与未来窗口规则，优化轨迹的使用，从而提高模型的预测性能。
技术框架：整体架构包括数据收集、轨迹构建、模型训练和评估四个主要模块，采用十种联邦算法在不同疾病分区配置下进行实验。
关键创新：最重要的创新在于结合了时间访问、参与覆盖和优化行为等多个维度，系统性地评估了联邦临床世界模型的性能。
关键设计：在参数设置上，采用了基于严重性的细分策略，损失函数和网络结构经过调整以适应不同的疾病分区和参与度设置。实验中还考虑了不同时间窗口的影响。
🖼️ 关键图片
📊 实验亮点
实验结果显示，只有7.55%-21.36%的32步窗口在训练中被本地完整锚点访问，且在15个对比中，细粒度严重性划分伴随更高的FedAvg误差。FedProx算法在误差上减少了0.56%，但在32步时未表现出一致的改进。
🎯 应用场景
该研究的潜在应用领域包括医疗健康数据分析、个性化医疗和临床决策支持系统。通过优化联邦学习中的轨迹使用，可以提高模型在临床预测中的准确性和可靠性，进而推动智能医疗的发展。
📄 摘要（原文）
World models learn state evolution from trajectories, making access to temporal context a central training requirement. Federated learning can use distributed records, while ownership boundaries within a trajectory restrict the examples each client can construct. Our study benchmarks this cross-time setting through hourly action-conditioned clinical prediction on eight MIMIC-IV disease cohorts, comprising 40.87 million transition memberships. We specify severity-based client ownership, patient-separated construction, local history and future-window rules, and paired rollout evaluation from one to 32 hours. A matrix of ten federated algorithms covers 32 disease--partition configurations under five rounds of ten-percent participation. Three findings emerge from existing results and training logs. First, client ownership and participation jointly restrict long-window coverage: only 7.55\%--21.36\% of pooled-available 32-step windows have a locally complete anchor visited during training, averaged across diseases. Second, finer severity partitions accompany higher FedAvg error in 15 of 16 paired comparisons, while algorithm gains are small and horizon-dependent: FedProx reduces mean error by 0.56\%, with no consistent improvement at 32 steps. Third, algorithm labels conceal distinct update behavior, including inactive extrapolation and orders-of-magnitude differences in update scale. Cached-update performance also varies strongly across trajectory partitions under the same benchmark protocol. These results establish temporal access, participation coverage, optimization behavior, and horizon-resolved prediction as complementary dimensions for evaluating federated clinical world models.