K-Bench: a clinically calibrated benchmark for evaluating large language models in high-risk mental health conversations
作者: Laura M. Vowels, Matthew J. Vowels, Shivali Sharma, Apoorv Jha, Rehnuma Choudhury, Wasseem El Sarraj, Rachel Francois-Walcott, Aruba Hussain, Sarah Ingram, Angela Loulopoulou, Adva Segal, Elena Volkova
分类: cs.CL, cs.AI, cs.LG
发布日期: 2026-09-14
💡 一句话要点
提出K-Bench以评估高风险心理健康对话中的大型语言模型
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 心理健康 模型评估 临床校准 风险对话 公共排行榜 多轮对话
📋 核心要点
- 现有大型语言模型在高风险心理健康对话中的安全性评估不足，缺乏系统性基准。
- K-Bench通过临床校准的方法，建立了一个包含多种模型配置的评估基准，旨在填补这一空白。
- 实验结果显示，领先模型在支持性对话中表现优异，且K-Bench的排行榜为模型优化提供了持续的参考。
📝 摘要（中文）
随着人们越来越多地使用大型语言模型（LLMs）进行心理健康支持，其在高风险对话中的安全性仍然缺乏充分的评估。为此，研究团队开发了K-Bench，这是一个经过临床校准的基准，评估来自14个提供商的33个基础模型的125种模型配置，涵盖200个多轮情境，涉及自杀、自残、家庭暴力、物质滥用等高风险主题。研究表明，K-Bench能够有效评估模型在支持性对话中的表现，并提供了一个持续更新的公共排行榜，确保测试材料的保护性。
🔬 方法详解
问题定义：本论文旨在解决大型语言模型在高风险心理健康对话中的安全性评估问题。现有方法缺乏系统性和临床相关性，无法有效评估模型在复杂情境下的表现。
核心思路：论文提出K-Bench，一个经过临床校准的评估基准，涵盖多种模型配置，能够在真实的心理健康对话情境中进行评估，以确保模型的安全性和有效性。
技术框架：K-Bench的整体架构包括数据收集、模型评估和排行榜更新三个主要模块。数据收集阶段使用200个多轮情境，模型评估阶段通过与临床专家的共识进行比较，排行榜更新则基于模型的表现进行动态调整。
关键创新：K-Bench的主要创新在于其临床校准的评估方法和保护性排行榜，这与现有方法的直接优化策略形成鲜明对比，确保了评估的公正性和有效性。
关键设计：在模型配置方面，K-Bench评估了125种不同的模型设置，使用了多种风险评分指标，并通过临床专家的反馈进行模型的优化和调整。
🖼️ 关键图片
📊 实验亮点
实验结果显示，使用K-Bench评估的领先模型在支持性对话中表现优异，风险评分超过95%。此外，GPT-4o模型与临床专家的共识达成94.2%的精确一致性，验证了K-Bench的有效性和可靠性。
🎯 应用场景
K-Bench的研究成果具有广泛的应用潜力，尤其是在心理健康支持领域。它可以为开发和优化大型语言模型提供科学依据，确保这些模型在处理高风险对话时的安全性和有效性。未来，K-Bench有望成为心理健康技术产品的标准评估工具，推动相关领域的研究与应用。
📄 摘要（原文）
% !TEX root = ../main.tex People increasingly use large language models (LLMs) for mental health support, yet their safety in evolving, high-risk conversations remains poorly characterised. We developed K-Bench, a clinician-calibrated, protected benchmark evaluating 125 model configurations representing 33 base models from 14 providers across a fixed cohort of 200 multi-turn vignettes involving suicide, self-harm, domestic violence, substance misuse, and no-risk presentations. Synthetic patient conversations showed substantial distributional overlap with real human-AI conversations. A frozen GPT-4o judge achieved 94.2% exact agreement with clinician consensus across 6,751 eligible item comparisons from 151 clinician-rated transcripts. Leading models combined strong supportive conversation with combined-risk scores above 95, whereas risk exploration exposed substantial variation among lower-performing configurations. Therapeutic prompting produced configuration-specific gains concentrated among weaker models, while elevated reasoning produced no average improvement. K-Bench combines broader clinical coverage and configuration-scale comparison with a continuously updated public leaderboard whose operational test materials are protected from direct optimisation. The leaderboard is available at www.k-bench.ai.