Open Source Language Models Can Provide Feedback: Evaluating LLMs' Ability to Help Students Using GPT-4-As-A-Judge

📄 arXiv: 2405.05253v1 📥 PDF

作者: Charles Koutcheme, Nicola Dainese, Sami Sarsa, Arto Hellas, Juho Leinonen, Paul Denny

分类: cs.CL, cs.AI, cs.CY

发布日期: 2024-05-08

备注: 7 pages, 4 figures, 2 tables. Accepted for publication at the 29th annual ACM conference on Innovation and Technology in Computer Science Education (ITiCSE 2024)

💡 一句话要点

利用GPT-4评估开源LLM在编程教育反馈中的表现，探索其负责任应用

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 开源模型 教育反馈 GPT-4评估 编程教育

📋 核心要点

  1. 现有方法将学生作业发送给专有LLM存在隐私和伦理风险，阻碍了LLM在教育领域的广泛应用。
  2. 该研究利用GPT-4作为自动评估器，评估开源LLM在编程教育中提供反馈的质量，探索其可行性。
  3. 实验结果表明，部分开源LLM在反馈质量上可与专有模型媲美，为教育场景的负责任使用提供了可能。

📝 摘要（中文）

大型语言模型(LLM)在自动生成反馈方面展现出巨大潜力，尤其是在计算领域。然而，将学生作业发送给专有模型引发了隐私和伦理方面的担忧。这激发了人们对在教育中使用开源LLM的兴趣，但对此类开放模型生成反馈的质量研究不足。提供有缺陷或误导性的反馈可能不利于学生的学习。受最近使用GPT-4等强大LLM评估较弱模型输出的工作启发，我们使用来自入门编程课程的数据集，自动分析了多个开源模型生成反馈的质量。首先，我们将GPT-4的评估与人类专家的评估进行比较，研究了其作为自动评估器的可行性。我们观察到，GPT-4表现出对积极评价反馈的偏好，同时与人类评估者表现出中等程度的一致性，展示了其作为反馈评估器的潜力。其次，我们使用GPT-4评估反馈，探索了几个领先的开源LLM生成的反馈质量。我们发现，一些模型提供了与流行的专有LLM（如ChatGPT）具有竞争力的性能，表明了它们在教育环境中负责任使用的机会。

🔬 方法详解

问题定义：论文旨在解决开源大型语言模型（LLM）在编程教育中提供反馈质量评估的问题。现有方法依赖于专有LLM，存在隐私和伦理风险，且开源LLM的反馈质量缺乏系统性评估，可能产生误导性反馈，不利于学生学习。

核心思路：论文的核心思路是利用强大的专有LLM（GPT-4）作为自动评估器，对开源LLM生成的反馈进行质量评估。通过将GPT-4的评估结果与人类专家的评估结果进行比较，验证GPT-4作为评估器的可行性，并以此评估开源LLM的反馈质量。这种方法避免了直接依赖人类评估，降低了评估成本，并提供了一种可扩展的评估框架。

技术框架：整体框架包含以下几个主要步骤：1) 构建编程教育数据集，包含学生代码和对应的正确答案；2) 使用多个开源LLM对学生代码生成反馈；3) 使用GPT-4对生成的反馈进行评估，给出质量评分；4) 将GPT-4的评估结果与人类专家的评估结果进行比较，验证GPT-4作为评估器的可靠性；5) 分析不同开源LLM的反馈质量，并与专有LLM进行比较。

关键创新：该研究的关键创新在于：1) 提出了使用GPT-4作为自动评估器来评估开源LLM反馈质量的方法，降低了评估成本，提高了评估效率；2) 系统性地评估了多个开源LLM在编程教育反馈任务中的表现，为开源LLM在教育领域的应用提供了数据支持；3) 验证了部分开源LLM在反馈质量上可与专有模型媲美，为教育场景下负责任地使用开源LLM提供了依据。

关键设计：论文的关键设计包括：1) 使用来自入门编程课程的真实数据集，保证了评估的实际意义；2) 采用GPT-4作为评估器，利用其强大的语言理解和生成能力，保证了评估的准确性；3) 将GPT-4的评估结果与人类专家的评估结果进行比较，验证了GPT-4作为评估器的可靠性；4) 对多个开源LLM进行评估，并与专有模型进行比较，提供了全面的性能分析。

📊 实验亮点

实验结果表明，GPT-4在评估反馈时表现出对积极评价的偏好，但与人类评估者具有中等程度的一致性，验证了其作为反馈评估器的潜力。同时，部分开源LLM在反馈质量上表现出与ChatGPT等专有模型相当的竞争力，为在教育场景中负责任地使用开源LLM提供了可能性。

🎯 应用场景

该研究成果可应用于在线教育平台、编程学习工具等领域，帮助学生获得更及时、准确的反馈，提高学习效率。同时，该研究也为开源LLM在教育领域的应用提供了参考，促进了教育资源的公平性和可访问性。未来，可以进一步探索如何优化开源LLM的反馈生成能力，使其更好地服务于教育教学。

📄 摘要（原文）

Large language models (LLMs) have shown great potential for the automatic generation of feedback in a wide range of computing contexts. However, concerns have been voiced around the privacy and ethical implications of sending student work to proprietary models. This has sparked considerable interest in the use of open source LLMs in education, but the quality of the feedback that such open models can produce remains understudied. This is a concern as providing flawed or misleading generated feedback could be detrimental to student learning. Inspired by recent work that has utilised very powerful LLMs, such as GPT-4, to evaluate the outputs produced by less powerful models, we conduct an automated analysis of the quality of the feedback produced by several open source models using a dataset from an introductory programming course. First, we investigate the viability of employing GPT-4 as an automated evaluator by comparing its evaluations with those of a human expert. We observe that GPT-4 demonstrates a bias toward positively rating feedback while exhibiting moderate agreement with human raters, showcasing its potential as a feedback evaluator. Second, we explore the quality of feedback generated by several leading open-source LLMs by using GPT-4 to evaluate the feedback. We find that some models offer competitive performance with popular proprietary LLMs, such as ChatGPT, indicating opportunities for their responsible use in educational settings.