GYROval: A Robust Benchmark for Cultural Value Orientation in Large Language Models

📄 arXiv: 2609.18384v1 📥 PDF

作者: Alexander Didenko, Anna Shabanova, Vladislav Zapylikhin, Alexander Antipov, Ruslana Raemgulova

分类: cs.HC, cs.AI, cs.CY

发布日期: 2026-09-16

💡 一句话要点

提出GYROval基准以评估大语言模型的文化价值取向

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 文化价值取向 大语言模型 基准评估 二元对比场景 跨文化研究 模型评估 AI伦理

📋 核心要点

  1. 现有方法在评估大语言模型的文化价值取向时缺乏系统性和标准化，难以比较不同模型的表现。
  2. 论文提出了GYROval基准，通过二元对比场景来测量模型在文化价值取向上的表现，确保评估的公正性和有效性。
  3. 实验结果显示，二十个模型在文化价值取向上的表现差异显著，且通过稳定性评估方法验证了结果的可靠性。

📝 摘要（中文）

本文提出了一个稳健的基准GYROval，用于在多个领域和角色中测量大语言模型的文化价值取向，基于Inglehart-Welzel轴线。研究中使用了二元对比场景，评估了二十个模型的表现，并对其中十一模型进行了俄语翻译和不同采样温度的测试。该工具已公开发布，旨在推动文化价值取向的研究。

🔬 方法详解

问题定义：论文旨在解决现有大语言模型在文化价值取向评估中的标准化不足问题。现有方法往往缺乏对比性，难以准确反映模型的文化倾向。

核心思路：论文提出GYROval基准，通过二元对比场景设计，确保每个选项都是合理的行动选择，从而公正地评估模型的文化价值取向。

技术框架：整体架构包括数据收集、模型评估和结果分析三个主要模块。首先，设计二元对比场景；其次，评估模型在这些场景中的表现；最后，分析模型在不同文化价值轴线上的得分。

关键创新：最重要的创新在于采用二元对比场景的设计，使得评估过程不依赖于标准答案，从而提高了评估的客观性和可靠性。

关键设计：在实验中，使用了不同的采样温度和俄语翻译，以确保评估的全面性和准确性。模型的得分是基于其在特定文化价值取向上的响应比例。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，二十个模型在文化价值取向上的表现差异显著，尤其是在不同采样温度下的响应变化。通过稳定性评估，模型间的排名一致性得到了验证，显示出GYROval基准的有效性和可靠性。

🎯 应用场景

该研究的潜在应用领域包括社会科学研究、人工智能伦理和跨文化交流等。通过评估大语言模型的文化价值取向，研究者可以更好地理解模型在不同文化背景下的表现，从而推动更具文化敏感性的AI系统的开发。

📄 摘要（原文）

We present a robust benchmark for measuring cultural value orientation in large language models on the two Inglehart-Welzel axes over several domains and roles (hence GYROval - Gridded Yielding of Robust value Orientation), together with the results of administering it to twenty models. Items are binary contrastive scenarios in the sense introduced by CDEval: both options are legitimate courses of action, neither is correct, there is no answer key, and a model's score on an axis is the proportion of its responses falling on the counted pole. Eleven of the twenty models were additionally administered a paired Russian translation of the identical items and a second sampling temperature. The instrument is publicly released in both languages. Stability was assessed by treating the vignette as the unit of analysis, ranking the models within the levels of each perturbation factor, and summarising the agreement between levels by tie-corrected Kendall's \emph{W} against an empirical permutation null.