ZeroSumEval: Scaling LLM Evaluation with Inter-Model Competition

📄 arXiv: 2504.12562v1 📥 PDF

作者: Haidar Khan, Hisham A. Alyahya, Yazeed Alnumay, M Saiful Bari, Bülent Yener

分类: cs.AI, cs.CL

发布日期: 2025-04-17

🔗 代码/项目: GITHUB

💡 一句话要点

ZeroSumEval：利用模型间零和博弈扩展LLM评估，解决传统评估方法的局限性。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型评估 零和博弈 动态基准 模型竞争 安全挑战

📋 核心要点

  1. 现有LLM评估方法依赖静态数据集、人工评估或基于模型的评估，易过拟合、成本高且存在偏差。
  2. ZeroSumEval提出基于零和博弈的动态评估框架，通过模型间的竞争来评估LLM的各项能力。
  3. 实验结果表明，前沿模型在常见游戏和问题解答上表现良好，但在需要创造性问题生成和越狱防御等任务上表现不佳。

📝 摘要（中文）

ZeroSumEval是一种新颖的基于竞争的评估协议，它利用零和博弈来评估大型语言模型（LLM），使用动态基准来抵抗饱和。ZeroSumEval包含一套多样化的游戏，包括安全挑战（PyJail）、经典游戏（国际象棋、吹牛骰子、扑克）、知识测试（MathQuiz）和说服挑战（Gandalf、辩论）。这些游戏旨在评估一系列AI能力，如战略推理、规划、知识应用和创造力。ZeroSumEval建立在最近的研究基础上，这些研究强调了基于游戏的评估对LLM的有效性，并通过提供标准化和可扩展的框架来增强这些方法。为了证明这一点，我们进行了广泛的实验，在7个游戏和13个模型中进行了超过7000次模拟。结果表明，来自GPT和Claude系列的先进模型可以玩常见的游戏和回答问题，但它们难以玩需要创建新颖和具有挑战性的问题的游戏。我们还观察到，模型不能可靠地互相越狱，并且通常在需要创造力的任务中失败。我们在https://github.com/facebookresearch/ZeroSumEval上发布了我们的代码。

🔬 方法详解

问题定义：论文旨在解决现有大型语言模型（LLM）评估方法的局限性。传统方法，如静态基准数据集、人工评估和基于模型的评估，容易出现过拟合、成本高昂以及引入偏差等问题。这些方法难以准确衡量LLM在战略推理、规划、知识应用和创造力等方面的真实能力。

核心思路：论文的核心思路是利用零和博弈的思想，构建一个动态的、基于竞争的评估框架。通过让不同的LLM在各种游戏中相互对抗，可以更全面、更鲁棒地评估它们的能力。这种方法能够抵抗静态基准的饱和效应，并减少人工评估的主观性。

技术框架：ZeroSumEval框架包含以下主要组成部分：1) 一系列多样化的零和博弈游戏，涵盖安全挑战（PyJail）、经典游戏（国际象棋、吹牛骰子、扑克）、知识测试（MathQuiz）和说服挑战（Gandalf、辩论）等。2) 一个标准化的评估协议，用于定义游戏规则、模型交互方式和评估指标。3) 一个可扩展的平台，方便集成新的游戏和模型。整个流程是，选择两个或多个LLM参与某个游戏，根据游戏规则进行多轮交互，最后根据预定义的评估指标来评估每个模型的表现。

关键创新：ZeroSumEval的关键创新在于其基于零和博弈的动态评估方法。与传统的静态评估方法相比，ZeroSumEval能够更有效地评估LLM的泛化能力和鲁棒性。此外，ZeroSumEval提供了一个标准化的、可扩展的框架，方便研究人员进行LLM评估研究。

关键设计：论文中没有详细描述具体的参数设置、损失函数或网络结构等技术细节。关键设计在于游戏的选择和评估指标的定义。例如，在PyJail游戏中，评估指标可以是模型成功越狱的次数；在MathQuiz游戏中，评估指标可以是模型正确回答问题的比例。这些指标需要根据具体的游戏进行精心设计，以确保能够准确反映模型的真实能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，GPT和Claude等前沿模型在常见游戏和知识问答方面表现出色，但在需要创造性问题生成和越狱防御等任务中表现不佳。这表明现有模型在某些关键能力方面仍存在不足，需要进一步改进。ZeroSumEval为评估和改进这些能力提供了一个有价值的平台。

🎯 应用场景

ZeroSumEval可应用于LLM的全面评估与能力提升，尤其是在安全性、创造性和战略推理等关键领域。该框架有助于发现LLM的潜在弱点，促进更安全、更可靠的AI系统开发。此外，该方法还可用于教育领域，通过游戏化的方式提升学生的学习兴趣和能力。

📄 摘要（原文）

Evaluating the capabilities of Large Language Models (LLMs) has traditionally relied on static benchmark datasets, human assessments, or model-based evaluations - methods that often suffer from overfitting, high costs, and biases. ZeroSumEval is a novel competition-based evaluation protocol that leverages zero-sum games to assess LLMs with dynamic benchmarks that resist saturation. ZeroSumEval encompasses a diverse suite of games, including security challenges (PyJail), classic games (Chess, Liar's Dice, Poker), knowledge tests (MathQuiz), and persuasion challenges (Gandalf, Debate). These games are designed to evaluate a range of AI capabilities such as strategic reasoning, planning, knowledge application, and creativity. Building upon recent studies that highlight the effectiveness of game-based evaluations for LLMs, ZeroSumEval enhances these approaches by providing a standardized and extensible framework. To demonstrate this, we conduct extensive experiments with >7000 simulations across 7 games and 13 models. Our results show that while frontier models from the GPT and Claude families can play common games and answer questions, they struggle to play games that require creating novel and challenging questions. We also observe that models cannot reliably jailbreak each other and fail generally at tasks requiring creativity. We release our code at https://github.com/facebookresearch/ZeroSumEval.