SRJudge: Empowering Large Language Models with Selective Reasoning for Fine-Grained Knowledge Concept Tagging

📄 arXiv: 2609.36982v1 📥 PDF

作者: Zhiwei Yang, Jiahua Yang, Huiru Lin, Xing Chen, Quanlong Guan

分类: cs.CL, cs.AI

发布日期: 2026-09-29

备注: Accepted by IJCAI 2026

🔗 代码/项目: GITHUB

💡 一句话要点

提出SRJudge框架以解决知识概念标记中的选择性推理问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 知识概念标记 选择性推理 大型语言模型 强化学习 教育技术 数据集构建

📋 核心要点

  1. 现有方法在从大规模候选集中选择正确概念时面临高维决策空间的挑战，导致性能不稳定。
  2. 提出的SRJudge框架通过三阶段选择、推理和判断流程，提升了LLMs在知识概念标记中的选择性推理能力。
  3. 实验结果显示，SRJudge在生物学和物理学数据集上均超越了现有的最先进方法，验证了其有效性。

📝 摘要（中文）

知识概念标记旨在为教育内容分配特定的概念或主题标签，这对教育者和学习者在传统和在线教学中至关重要。尽管近期研究已利用大型语言模型（LLMs）在此任务中取得了良好效果，但LLMs在从大规模候选集中选择正确概念时仍面临挑战。本文提出了一种新颖的三阶段选择-推理-判断（SRJudge）框架，赋予LLMs选择性推理能力以实现细粒度的知识概念标记。具体而言，第一阶段的选择器通过微调小型语言模型（SLM）来缩小候选概念至前K个短名单，第二阶段的推理器利用轻量级LLM对短名单进行细化推理，并结合改进的强化学习策略和动态任务特定奖励函数。最后，较大的LLM作为判断器评估推理过程的整体合理性及其解释，以确定最终输出。实验结果表明，该方法在基准数据集上始终优于现有最先进的基线，验证了其有效性和优越性。

🔬 方法详解

问题定义：本文解决的是知识概念标记任务中，如何从大量候选概念中准确选择正确标签的问题。现有方法在处理高维决策空间时表现不佳，导致选择错误。

核心思路：SRJudge框架通过三阶段的选择、推理和判断流程，逐步缩小候选集并提升推理的准确性，使得LLMs能够更有效地进行知识概念标记。

技术框架：SRJudge框架分为三个阶段：第一阶段的选择器通过微调小型语言模型（如BERT）生成前K个候选概念；第二阶段的推理器使用轻量级LLM对这些候选进行细化推理，并结合强化学习策略；最后，第三阶段的判断器评估推理过程的合理性并输出最终结果。

关键创新：SRJudge的创新在于引入了选择性推理的概念，通过逐步缩小候选集和结合动态奖励机制，显著提高了推理的准确性和效率。这与传统方法直接从大规模候选集中选择的方式有本质区别。

关键设计：在选择阶段，使用小型语言模型进行微调以生成候选集；在推理阶段，采用轻量级LLM并结合动态任务特定奖励函数和剪枝机制，以更好地对齐人类推理偏好。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，SRJudge在生物学数据集S_Bio和物理学数据集S_Phy上均显著优于现有最先进的基线，具体表现为准确率提升超过10%。这一结果验证了SRJudge在知识概念标记任务中的有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括教育技术、在线学习平台和智能辅导系统。通过提高知识概念标记的准确性，SRJudge能够帮助教育者更好地组织和推荐学习内容，从而提升学习效果和用户体验。未来，该方法还可以扩展到其他领域，如信息检索和内容推荐系统。

📄 摘要（原文）

Knowledge concept tagging aims to assign specific concept or topic labels to educational content, which is essential for both educators and learners in traditional and online teaching practices. Recent work has explored large language models (LLMs) for this task, achieving promising performance. However, LLMs still struggle to select the correct concept from a large-scale candidate set due to the high dimensionality of the decision space. In this paper, we propose a novel three-stage Select-Reason-Judge (SRJudge) framework, which empowers LLMs with selective reasoning capability for fine-grained knowledge concept tagging. Specifically, the Selector in Stage 1 first narrows the candidate concepts to a top-K shortlist by fine-tuning a small language model (SLM), e.g., BERT, since the top-$K$ predictions hit the correct concept in most cases, thereby reducing the decision space of correct candidates. Next, the Stage 2 Reasoner employs a lightweight LLM for refined reasoning over the shortlisted candidates. It further integrates an improved reinforcement learning strategy with a dynamic task-specific reward function and a pruning mechanism to better align with human reasoning preferences. Finally, a larger LLM acts as a judger that evaluates the overall rationality of the reasoning process and its explanations to determine the final output. In addition, we construct two high-quality datasets for further validation, i.e., the biology dataset S_Bio and the physics dataset S_Phy. Experimental results demonstrate that our method consistently outperforms state-of-the-art baselines across benchmark datasets, verifying its effectiveness and superiority. Resources are available at: https://github.com/Nicozwy/SRJudge.