Detecting AI-Generated Text in Educational Content: Leveraging Machine Learning and Explainable AI for Academic Integrity

📄 arXiv: 2501.03203v1 📥 PDF

作者: Ayat A. Najjar, Huthaifa I. Ashqar, Omar A. Darwish, Eman Hammad

分类: cs.CL, cs.AI, cs.CY

发布日期: 2025-01-06

💡 一句话要点

利用机器学习和可解释AI检测教育内容中AI生成文本，提升学术诚信

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: AI生成文本检测 学术诚信 机器学习 可解释AI 教育内容 CyberHumanAI数据集 XGBoost Random Forest

📋 核心要点

  1. 现有方法难以有效区分教育内容中人类撰写和AI生成文本，给学术诚信带来挑战。
  2. 提出利用机器学习和可解释AI，构建特定数据集并训练模型，以准确检测AI生成文本。
  3. 实验表明，传统机器学习算法表现优异，且优于通用AI检测工具，提升了检测准确性。

📝 摘要（中文）

本研究旨在通过提供检测学生作业中AI生成内容的工具来加强学术诚信，利用先进技术促进透明度和责任感，帮助教育工作者维护道德标准，并支持人工智能在教育中的负责任整合。该研究的关键贡献是创建了CyberHumanAI数据集，包含1000个样本，其中500个由人类编写，另外500个由ChatGPT生成。我们在CyberHumanAI数据集上评估了各种机器学习（ML）和深度学习（DL）算法，比较了来自大型语言模型（LLM）（即ChatGPT）的人工撰写内容和AI生成内容。结果表明，传统的ML算法，特别是XGBoost和随机森林，实现了较高的性能（准确率分别为83%和81%）。结果还表明，对较短内容的分类比对较长内容的分类更具挑战性。此外，利用可解释人工智能（XAI），我们识别出影响ML模型预测的判别性特征，其中人工撰写的内容倾向于使用实用语言（例如，use和allow）。同时，AI生成的文本的特征是更抽象和正式的术语（例如，realm和employ）。最后，与GPTZero的比较分析表明，我们狭义聚焦、简单且经过微调的模型可以优于像GPTZero这样的通用系统。在对纯AI、纯人类和混合类进行分类时，所提出的模型实现了约77.5%的准确率，而GPTZero的准确率为48.5%。GPTZero倾向于将具有挑战性和小内容案例分类为混合或无法识别，而我们提出的模型在三个类别中表现出更平衡的性能。

🔬 方法详解

问题定义：论文旨在解决教育领域中AI生成文本泛滥带来的学术诚信问题。现有方法，如通用AI检测工具，在处理特定领域或短文本时表现不佳，无法有效区分人类撰写和AI生成的内容，给教育工作者带来困扰。

核心思路：论文的核心思路是构建一个专门针对教育内容的AI生成文本检测模型。通过创建包含人类撰写和AI生成文本的数据集，并利用机器学习算法进行训练，从而提高检测的准确性和可靠性。此外，利用可解释AI技术，分析模型判断的依据，增强模型的可信度。

技术框架：整体流程包括：1)构建CyberHumanAI数据集，包含人类撰写和ChatGPT生成的文本；2)使用机器学习和深度学习算法（如XGBoost、Random Forest）在数据集上训练模型；3)利用可解释AI技术分析模型预测的关键特征；4)与GPTZero等通用AI检测工具进行性能比较。

关键创新：该研究的关键创新在于：1)构建了专门针对教育内容的CyberHumanAI数据集；2)证明了针对特定领域微调的简单机器学习模型可以优于通用AI检测工具；3)利用可解释AI技术揭示了人类撰写和AI生成文本在语言使用上的差异。

关键设计：数据集CyberHumanAI包含1000个样本，人类和AI生成文本各占50%。模型训练过程中，使用了XGBoost和Random Forest等传统机器学习算法，并针对数据集进行了参数调优。可解释AI技术采用SHAP值来分析特征的重要性。模型评估采用准确率作为评价指标，并与GPTZero进行了对比。

📊 实验亮点

实验结果表明，XGBoost和Random Forest在CyberHumanAI数据集上分别达到了83%和81%的准确率。与通用AI检测工具GPTZero相比，该研究提出的模型在分类纯AI、纯人类和混合文本时，准确率从48.5%提升至77.5%，显著提高了检测性能。

🎯 应用场景

该研究成果可应用于教育机构，辅助教师检测学生作业中是否存在AI生成内容，维护学术诚信。同时，可用于开发更智能的教育辅助工具，帮助学生更好地理解和运用知识。未来，可扩展到其他领域，如新闻、法律等，检测虚假信息和AI生成内容。

📄 摘要（原文）

This study seeks to enhance academic integrity by providing tools to detect AI-generated content in student work using advanced technologies. The findings promote transparency and accountability, helping educators maintain ethical standards and supporting the responsible integration of AI in education. A key contribution of this work is the generation of the CyberHumanAI dataset, which has 1000 observations, 500 of which are written by humans and the other 500 produced by ChatGPT. We evaluate various machine learning (ML) and deep learning (DL) algorithms on the CyberHumanAI dataset comparing human-written and AI-generated content from Large Language Models (LLMs) (i.e., ChatGPT). Results demonstrate that traditional ML algorithms, specifically XGBoost and Random Forest, achieve high performance (83% and 81% accuracies respectively). Results also show that classifying shorter content seems to be more challenging than classifying longer content. Further, using Explainable Artificial Intelligence (XAI) we identify discriminative features influencing the ML model's predictions, where human-written content tends to use a practical language (e.g., use and allow). Meanwhile AI-generated text is characterized by more abstract and formal terms (e.g., realm and employ). Finally, a comparative analysis with GPTZero show that our narrowly focused, simple, and fine-tuned model can outperform generalized systems like GPTZero. The proposed model achieved approximately 77.5% accuracy compared to GPTZero's 48.5% accuracy when tasked to classify Pure AI, Pure Human, and mixed class. GPTZero showed a tendency to classify challenging and small-content cases as either mixed or unrecognized while our proposed model showed a more balanced performance across the three classes.