The Paternalistic Filter: Epistemic Injustice and Differential Refusal in LLM-Mediated History Education for Marginalized Romanian Students
作者: Alexis Popovici, Andrei Ionascu, Adrian-Marius Dumitran
分类: cs.CY, cs.AI, cs.CL
发布日期: 2026-07-13
备注: 8th International Workshop on Culturally-Aware Tutoring Systems (HAL precedings)
💡 一句话要点
提出父权主义过滤器以解决边缘化学生的教育不平等问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 教育不平等 知识父权主义 边缘化学生 历史教育 系统审计 社会经济差异
📋 核心要点
- 核心问题：大型语言模型在教育中可能加剧边缘化学生的知识获取不平等，尤其在历史教育领域。
- 方法要点：通过系统审计四个LLMs的响应，揭示其在处理不同社会经济背景学生请求时的偏见和不平等。
- 实验或效果：发现低资源学生的请求被拒绝率高达76.7%，并且在知识获取上存在显著差异。
📝 摘要（中文）
随着大型语言模型（LLMs）作为对话辅导员的广泛应用，它们可能会加剧系统性不平等。本研究对四个LLMs作为历史辅导员的API进行了系统审计，评估了1800个关于1989年罗马尼亚革命的回答，涉及五种不同的学生角色，按种族和社会经济层次进行分类。我们发现了四种相互关联的知识父权主义模式：差异拒绝、知识把关、代理权窃取和精英诠释。研究表明，当前的安全对齐机制充当了一种父权主义过滤器，将对话AI转变为叙事隔离的代理，体现了弗里克所定义的解释不公，亟需进行教育审计。
🔬 方法详解
问题定义：本研究旨在解决大型语言模型在历史教育中对边缘化学生的知识获取不平等问题。现有方法未能有效识别和消除这些模型在处理不同社会经济背景学生请求时的偏见。
核心思路：通过对四个大型语言模型的API进行系统审计，评估其对不同学生角色的响应，揭示其在教育内容传递中的不平等表现。
技术框架：研究采用了定量分析方法，评估了1800个响应，分析了不同学生角色的请求被拒绝和知识获取的差异。主要模块包括数据收集、响应分析和模式识别。
关键创新：本研究首次系统性地揭示了大型语言模型在教育中表现出的知识父权主义现象，尤其是其对低资源学生的偏见，提出了“父权主义过滤器”的概念。
关键设计：在实验中，设置了不同的学生角色，涵盖不同的种族和社会经济层次，使用定量指标评估模型的响应质量和拒绝率。
🖼️ 关键图片
📊 实验亮点
实验结果显示，低资源学生的教育请求被拒绝率高达76.7%，而在获取复杂地缘政治知识方面，边缘化学生的访问机会减少了3倍。这些发现强调了当前教育AI系统中存在的严重不平等。
🎯 应用场景
该研究的潜在应用领域包括教育技术、政策制定和社会公平倡导。通过识别和纠正大型语言模型中的偏见，可以为边缘化学生提供更公平的教育资源，促进社会的整体公平与包容性。
📄 摘要（原文）
As Large Language Models (LLMs) are increasingly deployed as conversational tutors, they risk institutionalizing systemic inequalities. This study presents a systematic API audit of four LLMs acting as history tutors, evaluating 1,800 responses regarding the 1989 Romanian Revolution across five student personas varying by ethnicity and socio-economic tier. We uncover four interconnected patterns of \emph{epistemic paternalism}: (1)~\textbf{Differential Refusal}, where safety-aligned models block 76.7\% of educational requests from low-tier students; (2)~\textbf{Epistemic Gatekeeping}, evidenced by a 3$\times$ reduction in access to geopolitical complexity (e.g., the contested ``coup theory'') for marginalized learners; (3)~\textbf{Agency Theft}, a lexical shift where models like LLaMA produce a 5$\times$ higher victimization-to-politics vocabulary ratio for Roma students compared to elite peers; and (4)~\textbf{Elite Hermeneutics}, where AI tutors disproportionately withhold epistemic confidence and justification scores from low-resource demographic profiles. We argue that current safety alignment acts as a paternalistic filter, transforming conversational AI into agents of narrative segregation -- a manifestation of \emph{hermeneutical injustice} in Fricker's~\cite{fricker2007} sense that demands urgent pedagogical auditing.