LKValues: Aligning Large Language Models with Sri Lankan Societal Values

📄 arXiv: 2607.20410v1 📥 PDF

作者: Nethmi Muthugala, Supryadi, Surangika Ranathunga, Nisansa de Silva, Ruijie Tao, Ovindu Gunatunga, Pengyun Zhu, Shaowei Zhang, Jingting Zheng, Deyi Xiong

分类: cs.CL

发布日期: 2026-07-22

备注: 37 pages, 10 figures, and 15 tables. Includes appendices. Datasets are available at the project repository

🔗 代码/项目: GITHUB


💡 一句话要点

提出LKValues以解决斯里兰卡社会价值对齐问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 价值对齐 文化偏见 斯里兰卡 多语言处理 微调技术 社会价值

📋 核心要点

  1. 现有的大型语言模型在价值对齐方面存在西方文化偏见,未能有效处理斯里兰卡的本地文化价值。
  2. 本文提出LKValues,通过三语调查提炼斯里兰卡社会价值,并构建相应的数据集和评估基准。
  3. 实验结果显示,微调后的模型在处理斯里兰卡文化价值时表现更佳,减少了跨语言的输出差异。

📝 摘要(中文)

大型语言模型(LLMs)的价值对齐往往受到西方文化的偏见,导致在多语言社会如斯里兰卡的本地价值观被忽视。现有基准未能考虑斯里兰卡官方语言僧伽罗语中的文化价值,影响了文化敏感的评估和微调。为此,本文提出LKValues,这是第一个基于调查的斯里兰卡价值对齐资源套件。通过对205名受访者的三语调查,结合全球框架和本地构建,提炼出40个被广泛认可的社会价值,并构建了LKvaluesIT和LKvaluesBench两个数据集。实验表明,微调后模型在英语和僧伽罗语中的表现有所提升,减少了无效输出和跨语言差异。

🔬 方法详解

问题定义:本文旨在解决大型语言模型在斯里兰卡文化价值对齐方面的不足,现有方法未能有效捕捉和评估本地文化特征。

核心思路:通过开展三语调查,结合全球框架与本地构建,提炼出符合斯里兰卡社会的价值观,从而实现更为精准的价值对齐。

技术框架:整体架构包括数据收集、价值提炼、数据集构建和模型微调四个主要模块。首先进行三语调查,随后提炼出40个社会价值,最后构建LKvaluesIT和LKvaluesBench数据集。

关键创新:LKValues是首个针对斯里兰卡的价值对齐资源套件,填补了现有研究中的文化空白,提供了本地化的评估标准。

关键设计:在数据集构建中,使用了150k场景实例和1,000个评估实例,微调过程中针对不同模型采用了特定的损失函数和参数设置,以优化模型在多语言环境下的表现。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,微调后的Qwen系列模型在英语和僧伽罗语中的表现显著提升,减少了无效输出和跨语言差异,尤其是在处理斯里兰卡特有的文化价值时,模型的有效性得到了验证。具体提升幅度依赖于模型家族,显示出LKValues在文化价值嵌入方面的有效性。

🎯 应用场景

该研究的潜在应用领域包括教育、社会服务和政策制定等,能够帮助开发更具文化敏感性的语言模型,促进多元文化的理解与交流。未来,该方法可扩展至其他低资源国家,推动全球范围内的价值对齐研究。

📄 摘要(原文)

Value alignment of Large Language Models (LLMs) has been shown to be culturally biased toward Western norms. This results in the mishandling of local values in multilingual societies such as Sri Lanka that have their unique cultural dynamics. Existing benchmarks overlook Sri Lankan-contextualized values in its official language Sinhala, hindering culturally sensitive evaluation and fine-tuning. To bridge this gap, we propose LKValues, the first survey-grounded resource suite for Sri Lankan value alignment. From a trilingual survey of 205 respondents, blending adapted global frameworks and LLM-elicited local constructs, we derive 40 majority-endorsed societal values. Using these values, we construct LKvaluesIT, a Sinhala-English news-derived instruction corpus containing 150k scenario-based instances, and LKvaluesBench, a value-sensitive evaluation benchmark of 1,000 instances. We evaluate a set of proprietary and open-weight LLMs with LKvaluesBench. We fine-tune three open-weight base models (Qwen3.5-4B-Base, Qwen3.5-9B-Base, and Aya-Expanse-8B-Base). Our experiments show that newer and larger LLMs still exhibit low-resource and cultural value-alignment gaps. LKValues fine-tuning improves Qwen-family models in English and Sinhala, reducing invalid outputs and cross-lingual disparities, though gains remain model-family dependent. These highlight LKValues efficacy in embedding Sri Lankan values, offering a replicable pipeline for low-resource, country-specific pluralist value alignment. The dataset is publicly available at https://github.com/NextME14/LKValues.