The Better Angels of Machine Personality: How Personality Relates to LLM Safety

📄 arXiv: 2407.12344v1 📥 PDF

作者: Jie Zhang, Dongrui Liu, Chen Qian, Ziyue Gan, Yong Liu, Yu Qiao, Jing Shao

分类: cs.CL, cs.CY

发布日期: 2024-07-17

💡 一句话要点

从人格视角探索LLM安全性：揭示人格特质与安全能力的关联

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 人格特质 安全性 毒性 隐私 公平性 MBTI-M量表

📋 核心要点

  1. 现有研究缺乏对LLM人格特质与其安全能力之间关系的深入理解，阻碍了安全LLM的开发。
  2. 该研究通过分析LLM的人格特质与毒性、隐私、公平性等安全指标的关联，揭示了人格对安全性的影响。
  3. 实验表明，调整LLM的人格特质可以显著提升其安全性能，例如通过人格诱导提升隐私和公平性。

📝 摘要（中文）

本文研究了大型语言模型（LLM）的人格特质与其安全能力（毒性、隐私和公平性）之间的关系。基于可靠的MBTI-M量表，研究发现LLM的人格特质与其安全能力密切相关。安全对齐通常会增加LLM的外向性、实感性和判断性。根据这些发现，可以通过编辑LLM的人格特质来提高其安全性能，例如，将人格从ISTJ诱导为ISTP，隐私和公平性分别相对提高了约43%和10%。此外，研究还发现具有不同人格特质的LLM对越狱攻击的敏感性不同。这项研究开创性地从人格角度研究LLM的安全性，为LLM安全性的增强提供了新的见解。

🔬 方法详解

问题定义：现有的大型语言模型（LLM）虽然在各种任务中表现出色，但同时也存在安全问题，例如生成有害内容、泄露隐私信息以及产生不公平的偏见。目前的研究主要集中在通过安全对齐等方法直接提升LLM的安全性，但忽略了LLM本身所展现出的人格特质可能对安全能力产生的影响。因此，如何理解和利用LLM的人格特质来提升其安全性是一个重要的研究问题。

核心思路：本文的核心思路是借鉴人格心理学的研究方法，将LLM视为具有一定人格特质的个体，并分析这些特质与LLM安全能力之间的关系。通过量化LLM的人格特质，并将其与毒性、隐私和公平性等安全指标进行关联分析，从而揭示人格特质对安全性的影响。基于这些发现，可以通过调整LLM的人格特质来提升其安全性能。

技术框架：该研究的技术框架主要包括以下几个步骤：1) 使用MBTI-M量表评估LLM的人格特质；2) 评估LLM在毒性、隐私和公平性等方面的安全性能；3) 分析LLM的人格特质与安全性能之间的相关性；4) 通过调整LLM的人格特质来提升其安全性能；5) 研究不同人格特质的LLM对越狱攻击的敏感性。

关键创新：该研究的关键创新在于：1) 开创性地从人格角度研究LLM的安全性，为LLM安全性的增强提供了新的视角；2) 揭示了LLM的人格特质与其安全能力之间的密切关系；3) 提出了通过调整LLM的人格特质来提升其安全性能的方法。

关键设计：研究中使用了MBTI-M量表来评估LLM的人格特质，该量表包含四个维度：外向性（Extraversion）与内向性（Introversion）、实感性（Sensing）与直觉性（Intuition）、思维性（Thinking）与情感性（Feeling）以及判断性（Judging）与感知性（Perceiving）。通过设计特定的提示语，并分析LLM的回复，可以量化LLM在这些维度上的得分。此外，研究还设计了针对毒性、隐私和公平性的评估指标，并使用这些指标来评估LLM的安全性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，LLM的人格特质与其安全能力密切相关。例如，安全对齐通常会增加LLM的外向性、实感性和判断性。通过将LLM的人格从ISTJ诱导为ISTP，隐私和公平性分别相对提高了约43%和10%。此外，研究还发现具有不同人格特质的LLM对越狱攻击的敏感性不同，这为防御越狱攻击提供了新的思路。

🎯 应用场景

该研究成果可应用于开发更安全的LLM，例如，在LLM的训练过程中，可以有意识地调整其人格特质，使其更不容易产生有害内容或泄露隐私信息。此外，该研究还可以用于评估LLM的安全性，例如，通过分析LLM的人格特质，可以预测其对越狱攻击的敏感性，从而采取相应的防御措施。未来，该研究有望推动LLM安全领域的发展，并为构建可信赖的人工智能系统做出贡献。

📄 摘要（原文）

Personality psychologists have analyzed the relationship between personality and safety behaviors in human society. Although Large Language Models (LLMs) demonstrate personality traits, the relationship between personality traits and safety abilities in LLMs still remains a mystery. In this paper, we discover that LLMs' personality traits are closely related to their safety abilities, i.e., toxicity, privacy, and fairness, based on the reliable MBTI-M scale. Meanwhile, the safety alignment generally increases various LLMs' Extraversion, Sensing, and Judging traits. According to such findings, we can edit LLMs' personality traits and improve their safety performance, e.g., inducing personality from ISTJ to ISTP resulted in a relative improvement of approximately 43% and 10% in privacy and fairness performance, respectively. Additionally, we find that LLMs with different personality traits are differentially susceptible to jailbreak. This study pioneers the investigation of LLM safety from a personality perspective, providing new insights into LLM safety enhancement.