MindChat: A Privacy-preserving Large Language Model for Mental Health Support

📄 arXiv: 2601.01993v1 📥 PDF

作者: Dong Xue, Jicheng Tu, Ming Wang, Xin Yan, Fangzhou Liu, Jie Hu

分类: cs.AI

发布日期: 2026-01-05

备注: 33 pages, 16 figures

💡 一句话要点

提出MindChat：一种保护隐私的心理健康支持大语言模型

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 心理健康支持 大语言模型 隐私保护 联邦学习 差分隐私 合成数据 角色扮演 心理咨询

📋 核心要点

  1. 现有大语言模型在心理健康支持方面有潜力，但训练数据稀缺且敏感，限制了其发展。
  2. MindChat通过多智能体角色扮演框架构建合成咨询数据集MindCorpus，并采用双闭环反馈设计提升数据质量。
  3. MindChat使用联邦学习和差分隐私优化，在保护隐私的同时，实现了与现有模型相当甚至更优的性能。

📝 摘要（中文）

本文介绍了一种保护隐私的心理健康支持大语言模型MindChat，以及一个通过多智能体角色扮演框架构建的合成多轮咨询数据集MindCorpus。为了合成高质量的咨询数据，开发的对话构建框架采用双闭环反馈设计，通过角色扮演整合心理学专业知识和咨询技巧：（i）回合级别的批判和修改，以提高会话中的连贯性和咨询适当性；（ii）会话级别的策略改进，以逐步丰富咨询师在会话中的行为。为了减轻分散数据所有权下的隐私风险，我们使用联邦学习和参数高效的LoRA适配器对基础模型进行微调，并结合差分隐私优化来降低成员和记忆风险。在合成数据质量评估和咨询能力评估上的实验表明，MindCorpus提高了训练效果，并且MindChat在自动LLM评估和人工评估协议下，与现有的通用和面向咨询的大语言模型基线相比具有竞争力，同时在成员推理攻击下表现出降低的隐私泄露。

🔬 方法详解

问题定义：现有的大语言模型在心理健康支持领域应用受限于高质量心理咨询对话数据的稀缺性和敏感性。直接使用真实数据会带来严重的隐私泄露风险，而缺乏高质量数据则难以训练出有效的心理咨询模型。因此，如何构建高质量、保护隐私的心理咨询对话数据集，并在此基础上训练出性能优越的大语言模型，是本文要解决的核心问题。

核心思路：本文的核心思路是利用多智能体角色扮演框架生成合成的心理咨询对话数据，并通过双闭环反馈机制提升数据质量。同时，采用联邦学习和差分隐私技术，在模型训练过程中保护用户隐私。通过合成数据和隐私保护技术的结合，旨在解决心理咨询领域数据稀缺和隐私敏感的问题。

技术框架：MindChat的整体框架包含两个主要部分：MindCorpus数据集的构建和MindChat模型的训练。MindCorpus数据集的构建采用多智能体角色扮演框架，包含回合级别的批判和修改以及会话级别的策略改进两个闭环反馈机制。MindChat模型的训练则采用联邦学习框架，使用LoRA适配器进行参数高效的微调，并结合差分隐私优化。

关键创新：本文的关键创新在于：（1）提出了一个双闭环反馈的对话构建框架，能够有效地合成高质量的心理咨询对话数据；（2）结合联邦学习和差分隐私技术，在保护用户隐私的前提下，训练出性能优越的心理咨询大语言模型。与现有方法相比，本文的方法能够更好地平衡数据质量、模型性能和隐私保护。

关键设计：在对话构建框架中，回合级别的批判和修改通过LLM判断对话的连贯性和咨询的适当性，并进行修改。会话级别的策略改进则通过分析咨询师的行为，逐步丰富咨询策略。在联邦学习中，使用LoRA适配器减少了通信开销。差分隐私优化则通过添加噪声来保护模型参数的隐私。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MindCorpus能够有效提升模型的训练效果，MindChat在自动评估和人工评估中均表现出与现有通用和咨询导向的LLM基线相当甚至更优的性能。同时，MindChat在成员推理攻击下表现出更低的隐私泄露风险，验证了其隐私保护的有效性。具体性能数据未知。

🎯 应用场景

MindChat具有广泛的应用前景，可用于在线心理咨询、心理健康教育、危机干预等领域。它可以为用户提供个性化的心理支持，缓解心理压力，提高心理健康水平。此外，该研究提出的数据合成和隐私保护技术，也可应用于其他敏感数据领域，例如医疗、金融等，促进人工智能技术在这些领域的安全应用。

📄 摘要（原文）

Large language models (LLMs) have shown promise for mental health support, yet training such models is constrained by the scarcity and sensitivity of real counseling dialogues. In this article, we present MindChat, a privacy-preserving LLM for mental health support, together with MindCorpus, a synthetic multi-turn counseling dataset constructed via a multi-agent role-playing framework. To synthesize high-quality counseling data, the developed dialogue-construction framework employs a dual closed-loop feedback design to integrate psychological expertise and counseling techniques through role-playing: (i) turn-level critique-and-revision to improve coherence and counseling appropriateness within a session, and (ii) session-level strategy refinement to progressively enrich counselor behaviors across sessions. To mitigate privacy risks under decentralized data ownership, we fine-tune the base model using federated learning with parameter-efficient LoRA adapters and incorporate differentially private optimization to reduce membership and memorization risks. Experiments on synthetic-data quality assessment and counseling capability evaluation show that MindCorpus improves training effectiveness and that MindChat is competitive with existing general and counseling-oriented LLM baselines under both automatic LLM-judge and human evaluation protocols, while exhibiting reduced privacy leakage under membership inference attacks.