VAA-CSEC: Vote-guided Advantage Allocation for Chinese Semantic Error Correction

📄 arXiv: 2609.36804v1 📥 PDF

作者: Yitong Han, Nankai Lin, Juan Luo, Hongyan Wu, Lianxi Wang, Shengyi Jiang

分类: cs.CL, cs.AI

发布日期: 2026-09-29

期刊: The 2026 Conference on Empirical Methods in Natural Language Processing (EMNLP 2026)

💡 一句话要点

提出VAA-CSEC以解决中文语义错误纠正问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 中文语义纠正 强化学习 链式思维 自一致解码 多阶段框架

📋 核心要点

  1. 现有的中文语义错误纠正方法面临过度纠正和推理过程不明确的挑战，影响最终纠正效果。
  2. 本文提出VAA-CSEC框架，通过结合CoT蒸馏、监督微调和强化学习，优化语义错误纠正过程。
  3. 实验结果显示，VAA-CSEC在CSED-C上取得47.72%的F0.5，且在NaSGEC-Exam上达到41.55%的新状态，显著提升了性能。

📝 摘要（中文）

中文语义错误纠正（CSEC）旨在处理中文文本中的语义错误，这些错误通常比拼写和语法错误更为微妙和复杂，但相关研究相对较少。现有基于大语言模型的方法面临两个主要障碍：过度纠正和链式思维（CoT）推理与自一致解码之间的互动不明确，导致CoT带来的好处无法可靠地转移到最终纠正中。为此，本文提出了一种多阶段框架VAA-CSEC，结合了CoT蒸馏、监督微调、强化学习和自一致解码。在强化学习过程中，设计了与CSEC的最小编辑原则直接对齐的任务特定奖励函数，并引入了组级相对策略优化（GLPO），根据个体回报与投票聚合组回报之间的差距重新分配优势，从而将强化学习训练目标与推理时使用的自一致目标对齐。实验结果表明，VAA-CSEC在CSED-C数据集上以47.72%的F0.5超越所有基线方法，并在NaSGEC-Exam上建立了41.55%的新状态。

🔬 方法详解

问题定义：本文解决中文语义错误纠正（CSEC）中的语义错误，现有方法存在过度纠正和推理过程不明确的问题，导致纠正效果不理想。

核心思路：VAA-CSEC框架通过多阶段的方式，结合链式思维蒸馏、监督微调和强化学习，旨在优化语义错误的纠正过程，确保最终结果的准确性。

技术框架：该框架包括多个主要模块：首先进行链式思维的蒸馏，然后进行监督微调，接着通过强化学习优化纠正策略，最后使用自一致解码进行最终的结果生成。

关键创新：引入了组级相对策略优化（GLPO），根据个体回报与投票聚合组回报的差距重新分配优势，使强化学习目标与推理时的自一致目标相一致，这是与现有方法的本质区别。

关键设计：设计了与CSEC的最小编辑原则对齐的任务特定奖励函数，确保强化学习过程中的奖励机制能够有效指导模型学习，同时在参数设置和网络结构上进行了优化，以提升模型的整体性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

VAA-CSEC在CSED-C数据集上取得了47.72%的F0.5，超越了所有基线方法，并在NaSGEC-Exam上达到了41.55%的新状态，显示出显著的性能提升，尤其是在召回率方面达到了42.15%。

🎯 应用场景

该研究在中文文本处理、自然语言理解和智能写作等领域具有广泛的应用潜力。通过提升语义错误纠正的准确性，VAA-CSEC可为教育、内容创作和信息检索等行业提供更高质量的文本处理服务，未来可能推动相关技术的进一步发展与应用。

📄 摘要（原文）

Chinese Semantic Error Correction (CSEC) targets semantic errors in Chinese text, which are typically more subtle and complex than spelling and grammatical errors but remain relatively underexplored. Existing LLM-based approaches face two recurring obstacles in this task: over-correction, and unclear interaction between Chain-of-Thought (CoT) reasoning and self-consistency decoding, such that the benefits brought by CoT cannot be reliably transferred to final corrections. We propose Vote-guided Advantage Allocation for CSEC (VAA-CSEC), a multi-stage framework that combines CoT distillation, Supervised Fine-Tuning (SFT), Reinforcement Learning (RL) and self-consistency decoding. During RL, we design a task-specific reward function that directly aligned with the minimal-editing principle of CSEC. We further introduce Group-Level Relative Policy Optimization (GLPO), which reallocates GRPO advantages according to the margin between individual rollout rewards and the vote-aggregated group reward, aligning the RL training objective with the self-consistency objective used at inference time. Experiments on CSED-C and NaSGEC-Exam show that VAA-CSEC outperforms all LLM-based baselines on CSED-C with an F0.5 of 47.72%, achieves the highest recall of 42.15% among all methods, and establishes a new state of the art of 41.55% F0.5 on NaSGEC-Exam.