CulturePark: Boosting Cross-cultural Understanding in Large Language Models

📄 arXiv: 2405.15145v3 📥 PDF

作者: Cheng Li, Damien Teney, Linyi Yang, Qingsong Wen, Xing Xie, Jindong Wang

分类: cs.AI, cs.CL, cs.MA

发布日期: 2024-05-24 (更新: 2024-11-21)

备注: NeurIPS 2024; Code is released at https://github.com/Scarelette/CulturePark. arXiv admin note: substantial text overlap with arXiv:2402.10946

🔗 代码/项目: GITHUB

💡 一句话要点

提出CulturePark以解决大语言模型中的文化偏见问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 文化偏见 大型语言模型 跨文化交流 数据生成 内容审核 文化教育 多代理系统

📋 核心要点

  1. 现有方法在文化数据收集上依赖真实世界数据和人工标注，导致成本高且难以扩展。
  2. 提出CulturePark框架，通过模拟跨文化沟通的LLM代理生成高质量文化对话，解决文化数据不足的问题。
  3. 实验结果显示，基于GPT-3.5的模型在内容审核和文化教育任务中表现优于GPT-4，展示了显著的学习效果和用户体验。

📝 摘要（中文）

文化偏见在许多大型语言模型中普遍存在，主要源于缺乏代表不同文化的数据。现有的文化数据集和基准通常依赖于现有数据集的子集提取或从维基百科和社交媒体等平台聚合而成，这些方法高度依赖真实世界数据和人工标注，成本高且难以扩展。本文提出了CulturePark，一个基于大型语言模型的多代理通信框架，用于文化数据收集。CulturePark模拟跨文化人类沟通，通过不同文化角色的LLM代理生成高质量的跨文化对话，涵盖人类信仰、规范和习俗。通过CulturePark，我们生成了41,000个文化样本，以微调八个特定文化的LLM，并在内容审核、文化对齐和文化教育三个下游任务中评估这些模型。结果表明，在内容审核方面，我们的GPT-3.5模型在数据集上与GPT-4相当或表现更好。

🔬 方法详解

问题定义：本文旨在解决大型语言模型中的文化偏见问题，现有方法依赖于真实数据和人工标注，难以扩展和普遍适用。

核心思路：通过CulturePark框架，模拟跨文化人类沟通，利用LLM代理生成多样化的文化对话，从而丰富文化数据集。

技术框架：CulturePark的整体架构包括多个LLM代理，每个代理代表不同文化，通过对话生成模块进行交互，最终形成文化样本库。

关键创新：最重要的创新在于通过模拟人类跨文化交流的方式生成数据，避免了传统方法的依赖性和局限性。

关键设计：在模型训练中，采用特定的损失函数来优化文化对话的质量，设计了多种文化角色的LLM代理以增强对话的多样性和真实性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，基于GPT-3.5的模型在内容审核任务中与GPT-4的表现相当或更优，在文化对齐任务中超越了GPT-4，并在文化教育方面展现出更高的学习效率和用户体验，证明了CulturePark的有效性。

🎯 应用场景

该研究的潜在应用领域包括教育、跨文化交流和内容审核等。通过生成多样化的文化数据，CulturePark可以帮助改善大型语言模型的文化适应性，促进AI的公平性和包容性，未来可能在全球化背景下发挥重要作用。

📄 摘要（原文）

Cultural bias is pervasive in many large language models (LLMs), largely due to the deficiency of data representative of different cultures. Typically, cultural datasets and benchmarks are constructed either by extracting subsets of existing datasets or by aggregating from platforms such as Wikipedia and social media. However, these approaches are highly dependent on real-world data and human annotations, making them costly and difficult to scale. Inspired by cognitive theories on social communication, this paper introduces CulturePark, an LLM-powered multi-agent communication framework for cultural data collection. CulturePark simulates cross-cultural human communication with LLM-based agents playing roles in different cultures. It generates high-quality cross-cultural dialogues encapsulating human beliefs, norms, and customs. Using CulturePark, we generated 41,000 cultural samples to fine-tune eight culture-specific LLMs. We evaluated these models across three downstream tasks: content moderation, cultural alignment, and cultural education. Results show that for content moderation, our GPT-3.5-based models either match or outperform GPT-4 on datasets. Regarding cultural alignment, our models surpass GPT-4 on Hofstede's VSM 13 framework. Furthermore, for cultural education of human participants, our models demonstrate superior outcomes in both learning efficacy and user experience compared to GPT-4. CulturePark proves an important step in addressing cultural bias and advancing the democratization of AI, highlighting the critical role of culturally inclusive data in model training. Code is released at https://github.com/Scarelette/CulturePark.