SHROOM-INDElab at SemEval-2024 Task 6: Zero- and Few-Shot LLM-Based Classification for Hallucination Detection

📄 arXiv: 2404.03732v1 📥 PDF

作者: Bradley P. Allen, Fina Polat, Paul Groth

分类: cs.CL, cs.AI

发布日期: 2024-04-04

备注: 6 pages, 6 figures, 4 tables, camera-ready copy, accepted to the 18th International Workshop on Semantic Evaluation (SemEval-2024), for associated code and data see https://github.com/bradleypallen/shroom

💡 一句话要点

提出SHROOM-INDElab以解决幻觉检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 幻觉检测 大语言模型 零-shot学习 few-shot学习 自动生成示例

📋 核心要点

  1. 现有的幻觉检测方法在准确性和适应性方面存在不足，尤其是在缺乏标注数据的情况下。
  2. SHROOM-INDElab系统通过结合上下文特定的任务定义和自动生成示例，采用了零-shot和few-shot学习方法。
  3. 实验结果显示，该系统在无模型和有模型的轨道中表现优异，零-shot方法的准确性超过了few-shot方法。

📝 摘要（中文）

本文描述了阿姆斯特丹大学智能数据工程实验室团队在SemEval-2024第6任务竞赛中的参赛作品SHROOM-INDElab系统。该系统基于大语言模型（LLMs）进行幻觉检测的分类器构建，扩展了之前的工作，通过引入特定上下文的任务、角色和目标概念定义，以及自动生成示例以用于少量示例提示的方法。最终，该系统在无模型和有模型的轨道中分别获得了第四和第六的表现，验证集评估显示其分类决策与众包人类标注者一致。此外，零-shot方法的准确性优于使用自动生成示例的few-shot方法。代码已在Github上发布。

🔬 方法详解

问题定义：本文旨在解决幻觉检测中的分类问题，现有方法在缺乏标注数据时表现不佳，导致准确性下降。

核心思路：SHROOM-INDElab系统通过引入上下文特定的任务定义和自动生成示例，利用大语言模型的能力进行有效的幻觉检测。这样的设计旨在提高分类器在不同场景下的适应性和准确性。

技术框架：系统整体架构包括任务定义模块、示例生成模块和分类器模块。任务定义模块负责明确任务目标，示例生成模块自动生成用于few-shot学习的示例，分类器模块则基于LLMs进行最终的分类决策。

关键创新：该研究的主要创新在于结合了上下文特定的任务定义与自动生成的示例，显著提升了幻觉检测的准确性，尤其是在数据稀缺的情况下。与传统方法相比，这种方法更具灵活性和适应性。

关键设计：在参数设置上，系统采用了基于LLMs的提示编程技术，损失函数设计上考虑了分类准确性与人类标注者的一致性，网络结构则基于现有的LLMs进行优化。具体细节未在摘要中详细说明。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SHROOM-INDElab系统在SemEval-2024第6任务中表现优异，分别在无模型和有模型轨道中获得第四和第六的成绩。实验结果表明，零-shot方法的准确性超过了使用自动生成示例的few-shot方法，显示出该方法在幻觉检测中的有效性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的信息检索、对话系统和内容生成等场景。通过提高幻觉检测的准确性，SHROOM-INDElab能够有效提升这些系统的可靠性和用户体验，未来可能在多个行业中发挥重要作用。

📄 摘要（原文）

We describe the University of Amsterdam Intelligent Data Engineering Lab team's entry for the SemEval-2024 Task 6 competition. The SHROOM-INDElab system builds on previous work on using prompt programming and in-context learning with large language models (LLMs) to build classifiers for hallucination detection, and extends that work through the incorporation of context-specific definition of task, role, and target concept, and automated generation of examples for use in a few-shot prompting approach. The resulting system achieved fourth-best and sixth-best performance in the model-agnostic track and model-aware tracks for Task 6, respectively, and evaluation using the validation sets showed that the system's classification decisions were consistent with those of the crowd-sourced human labellers. We further found that a zero-shot approach provided better accuracy than a few-shot approach using automatically generated examples. Code for the system described in this paper is available on Github.