Fennec: Fine-grained Language Model Evaluation and Correction Extended through Branching and Bridging

📄 arXiv: 2405.12163v1 📥 PDF

作者: Xiaobo Liang, Haoke Zhang, Helan hu, Juntao Li, Jun Xu, Min Zhang

分类: cs.CL, cs.AI

发布日期: 2024-05-20

🔗 代码/项目: GITHUB

💡 一句话要点

Fennec：通过分支与桥接扩展的细粒度语言模型评估与修正框架

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 语言模型评估 细粒度评估 分支操作 桥接操作 模型修正 大型语言模型 自动化评估

📋 核心要点

  1. 现有语言模型评估依赖耗时的人工评估，难以适应快速发展的模型。
  2. Fennec框架通过分支操作细化评估维度，桥接操作增加评估任务多样性。
  3. 实验表明，Fennec 7B模型在评估一致性和连贯性上接近GPT-4，并能有效提升模型响应质量。

📝 摘要（中文）

大型语言模型的快速发展催生了众多实际应用，主要集中在与人类意图对齐。然而，人类意图的复杂性导致对劳动密集型和耗时的人工评估的依赖。为了缓解这一限制，我们深入研究了使用开源大型语言模型作为评估器的范例，与利用GPT-4的趋势保持一致。我们提出了一个逐步评估框架：Fennec，它能够通过分支和桥接进行细粒度的评估和修正。具体来说，分支操作将评估任务分解为不同的维度和粒度，从而减轻了评估相关的挑战。同时，桥接操作合并了不同的训练数据集，增加了评估任务的多样性。实验结果表明，我们的7B模型在各种广泛采用的基准测试中，在“一致性”和“连贯性”方面始终优于开源的更大规模的评估模型，接近GPT-4的能力。我们利用评估模型产生的细粒度修正能力来改进多个模型响应，结果表明，改进提高了响应的质量，在MT-Bench上提高了1-2分。

🔬 方法详解

问题定义：现有的大型语言模型评估方法，尤其是依赖人工评估的方式，成本高昂且效率低下，难以跟上模型快速迭代的步伐。即使使用GPT-4等模型进行自动评估，也存在评估维度单一、泛化能力不足的问题，难以准确捕捉人类意图的复杂性。

核心思路：Fennec的核心思路是将复杂的评估任务分解为多个细粒度的维度，并通过分支操作实现。同时，通过桥接操作融合不同的训练数据集，增加评估任务的多样性，从而提高评估模型的泛化能力和准确性。这种方法旨在模拟人类评估的思维方式，从不同角度审视模型输出，并给出更全面的评价。

技术框架：Fennec框架包含两个主要操作：分支（Branching）和桥接（Bridging）。分支操作将评估任务分解为多个维度，例如相关性、流畅性、正确性等，并针对每个维度进行独立评估。桥接操作则通过融合不同的训练数据集，例如对话、摘要、翻译等，来增加评估任务的多样性。评估模型基于这些细粒度的评估结果，可以对模型输出进行修正，从而提高其质量。

关键创新：Fennec的关键创新在于其细粒度的评估和修正机制。通过分支操作，Fennec能够从多个维度评估模型输出，从而更全面地捕捉人类意图的复杂性。通过桥接操作，Fennec能够提高评估模型的泛化能力，使其能够适应不同的评估任务。与传统的整体评估方法相比，Fennec能够提供更准确、更可靠的评估结果。

关键设计：Fennec框架使用一个7B参数的语言模型作为评估器。分支操作的具体实现方式是，针对每个评估维度，训练一个独立的分类器或回归器。桥接操作的具体实现方式是，将不同的训练数据集进行混合，并使用数据增强技术来增加数据的多样性。在模型训练过程中，使用了交叉熵损失函数和Adam优化器。具体的超参数设置（例如学习率、batch size等）根据不同的实验进行了调整。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，Fennec 7B模型在多个基准测试中，在评估一致性和连贯性方面优于其他开源的大型评估模型，并且接近GPT-4的水平。通过使用Fennec进行修正，模型在MT-Bench上的得分提高了1-2分，表明Fennec能够有效提升模型输出的质量。

🎯 应用场景

Fennec框架可应用于各种需要评估和改进大型语言模型输出的场景，例如对话系统、文本摘要、机器翻译等。它可以帮助开发者快速评估模型的性能，发现潜在的问题，并进行针对性的改进。此外，Fennec还可以用于构建更可靠的自动评估系统，从而减少对人工评估的依赖。

📄 摘要（原文）

The rapid advancement of large language models has given rise to a plethora of applications across a myriad of real-world tasks, mainly centered on aligning with human intent. However, the complexities inherent in human intent necessitate a dependence on labor-intensive and time-consuming human evaluation. To alleviate this constraint, we delve into the paradigm of employing open-source large language models as evaluators, aligning with the prevailing trend of utilizing GPT-4. Particularly, we present a step-by-step evaluation framework: \textbf{Fennec}, capable of \textbf{F}ine-grained \textbf{E}valuatio\textbf{N} and correctio\textbf{N} \textbf{E}xtended through bran\textbf{C}hing and bridging. Specifically, the branching operation dissects the evaluation task into various dimensions and granularities, thereby alleviating the challenges associated with evaluation. Concurrently, the bridging operation amalgamates diverse training datasets, augmenting the variety of evaluation tasks. In experimental trials, our 7B model consistently outperforms open-source larger-scale evaluation models across various widely adopted benchmarks in terms of both \textit{Agreement} and \textit{Consistency}, closely approaching the capabilities of GPT-4. We employ the fine-grained correction capabilities induced by the evaluation model to refine multiple model responses, and the results show that the refinement elevates the quality of responses, leading to an improvement of 1-2 points on the MT-Bench. Our code is available at Github\footnote{\url{https://github.com/dropreg/Fennec}}.