Safe-FCL: Continual Risk Awareness and Fine-Grained Safety Aggregation for Federated Continual Learning of LLMs

📄 arXiv: 2610.19968v1 📥 PDF

作者: Shuaijie Ma, Yongkang Hu, Yu Cheng, Jiuan Zhou, Yi Xie, Yushuo Zhang, Zhaoxia Yin

分类: cs.LG, cs.AI

发布日期: 2026-10-14

备注: 16 pages, 4 figures, 11 tables

💡 一句话要点

提出Safe-FCL以解决联邦持续学习中的风险检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 联邦学习 持续学习 风险检测 安全聚合 大型语言模型 恶意更新 模型安全性

📋 核心要点

  1. 现有的联邦学习方法在面对恶意客户端更新时，难以保持全球模型的安全性，尤其是在任务演变时。
  2. Safe-FCL框架通过持续风险意识机制和细粒度安全聚合机制，增强了对新兴风险模式的适应能力。
  3. 实验结果显示，Safe-FCL在多个指标上超越了现有方法，显著提高了风险识别的准确性和模型的安全性。

📝 摘要（中文）

联邦微调使大型语言模型能够从分布式客户端数据中协作学习，但恶意客户端更新可能危及全球模型的安全性。随着联邦任务的演变，变化的恶意更新模式挑战了现有防御机制在时间上的可靠风险检测能力。为了解决这一挑战，本文提出了Safe-FCL框架，集成了持续风险意识与细粒度安全聚合机制。具体而言，持续风险意识（CRA）机制学习跨序列任务的新兴风险模式，并利用历史特征导出的保护子空间约束检测器更新，减轻了对先前学习的恶意模式的遗忘，同时适应新风险。细粒度安全聚合（FGSA）机制结合CRA的客户端风险评估与模块级的历史更新行为偏差，适应性地调节聚合贡献，抑制潜在的恶意更新，同时最小化对良性更新的不必要限制。大量实验表明，Safe-FCL在联邦持续学习中优于当前的最先进方法，全球模型的Rule和MD-Judge得分分别提高了0.41%和0.64%，平均风险识别准确率提高了2.01%。

🔬 方法详解

问题定义：本文旨在解决联邦持续学习中由于恶意客户端更新导致的全球模型安全性问题。现有方法在面对不断变化的恶意更新模式时，难以有效检测和应对风险。

核心思路：Safe-FCL框架通过引入持续风险意识（CRA）和细粒度安全聚合（FGSA）机制，旨在实时学习和适应新兴风险，同时保护历史学习的恶意模式。这样的设计使得模型能够在动态环境中保持安全性。

技术框架：Safe-FCL的整体架构包括两个主要模块：持续风险意识（CRA）模块负责识别和学习新兴风险模式，细粒度安全聚合（FGSA）模块则根据风险评估调节客户端更新的聚合贡献。

关键创新：最重要的技术创新在于CRA机制的引入，它通过保护子空间约束检测器更新，减轻了对历史恶意模式的遗忘，同时FGSA机制通过结合客户端风险评估和历史行为偏差，动态调节聚合策略。

关键设计：在CRA中，使用历史特征构建保护子空间以约束更新；在FGSA中，设计了适应性调节策略，结合客户端风险评估和模块级偏差，确保良性更新不受过度限制。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，Safe-FCL在联邦持续学习中相较于当前最先进的方法，全球模型的Rule和MD-Judge得分分别提高了0.41%和0.64%，同时平均风险识别准确率提升了2.01%，展现出显著的性能优势。

🎯 应用场景

该研究的潜在应用领域包括金融、医疗和社交网络等需要保护用户隐私的场景。通过提高联邦学习模型的安全性，Safe-FCL能够在这些领域中有效防范恶意攻击，确保数据安全和模型可靠性，具有重要的实际价值和未来影响。

📄 摘要（原文）

Federated fine-tuning enables large language models (LLMs) to learn collaboratively from distributed client data, but malicious client updates can compromise global model safety. As federated tasks evolve, changing malicious update patterns challenge the ability of existing defenses to maintain reliable risk detection over time. To address this challenge, we propose Safe-FCL, a framework integrating continual risk awareness with fine-grained safety aggregation for federated continual learning of LLMs. Specifically, the Continual Risk Awareness (CRA) mechanism learns emerging risk patterns across sequential tasks and constrains detector updates using a protective subspace derived from historical features, mitigating forgetting of previously learned malicious patterns while adapting to new risks. To translate risk awareness into aggregation-level safety control, the Fine-Grained Safety Aggregation (FGSA) mechanism combines client-level risk assessments from CRA with module-level deviations from historical update behavior to adaptively regulate aggregation contributions, suppressing potentially malicious updates while minimizing unnecessary restrictions on benign updates. Extensive experiments demonstrate that Safe-FCL outperforms current SOTA methods, improving global-model Rule and MD-Judge scores in federated continual learning by 0.41% and 0.64%, respectively, while increasing average risk recognition accuracy by 2.01%.