SWRouter: Similarity-Contractive Window Routing for Multi-Turn Large Language Model Conversations

📄 arXiv: 2609.11414v1 📥 PDF

作者: Yu Wang, Yuchen Li, Rui Kong, Xinran Chen, Jiamin Chen, Hengyi Cai, Shuaiqiang Wang, Jiashu Zhao, Yulun Zhang, Zhonghao Lyu, Haoyi Xiong, Linghe Kong, Jimmy Xiangji Huang, Dawei Yin

分类: cs.CL, cs.AI, cs.IR

发布日期: 2026-09-10

💡 一句话要点

提出SWRouter以解决多轮对话中的信息路由问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多轮对话 信息路由 大型语言模型 上下文分割 相似性机制 评估框架 智能对话系统

📋 核心要点

  1. 现有的路由方法在多轮对话中面临信息丢失和混淆的问题，导致路由性能下降。
  2. SWRouter通过相似性基础的上下文分割机制和双指标评估框架，解决了多轮对话中的路由挑战。
  3. 实验结果显示，SWRouter在多轮对话基准测试中超越了多个强基线，显著提升了评估准确性。

📝 摘要（中文）

大型语言模型展现出互补的优势，促使了将查询分配给最合适模型的路由方法的研究。尽管现有路由器在单轮对话中有效，但在多轮对话中，路由性能依赖于历史上下文的分割、保留和融入当前提示的方式。这引入了两个基本挑战：在上下文构建过程中防止信息丢失和混淆，以及在不混淆模型选择与提示构建质量的情况下评估路由质量。本文提出了SWRouter，一种用于多轮大型语言模型路由的相似性收缩窗口路由器。SWRouter结合了基于相似性的上下文分割机制和双指标评估框架，解耦了构建准确性与路由器性能。实验结果表明，SWRouter在多轮对话基准测试中持续超越强基线，评估准确性比最佳单一大型语言模型提高了16.26%，比Conv-ID Context基线额外提升了8.22%。

🔬 方法详解

问题定义：本论文旨在解决多轮对话中信息路由的挑战，现有方法在上下文处理上存在信息丢失和混淆的问题，影响了路由性能。

核心思路：SWRouter的核心思路是结合相似性基础的上下文分割机制与双指标评估框架，确保上下文信息的有效利用和路由质量的准确评估。

技术框架：SWRouter的整体架构包括上下文分割模块、提示构建模块和路由评估模块。上下文分割模块负责将历史对话分割为相似性窗口，提示构建模块生成当前提示，而路由评估模块则通过双指标评估路由质量。

关键创新：SWRouter的主要创新在于其相似性收缩机制和双指标评估框架，使得上下文构建与路由性能解耦，避免了传统方法的局限性。

关键设计：在设计中，SWRouter采用了特定的相似性度量方法和损失函数，以优化上下文分割的准确性，并通过双指标评估确保路由选择的有效性。具体的网络结构和参数设置在实验中经过调优，以达到最佳性能。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

SWRouter在多轮对话基准测试中表现优异，评估准确性比最佳单一大型语言模型提高了16.26%，并且比Conv-ID Context基线额外提升了8.22%。这些结果表明，SWRouter在多轮对话的路由性能上具有显著优势。

🎯 应用场景

SWRouter的研究成果在多轮对话系统、智能客服、虚拟助手等领域具有广泛的应用潜力。通过提高对话的上下文理解能力，该方法能够显著提升用户体验和交互质量，未来可能推动更智能的对话系统的发展。

📄 摘要（原文）

Large language models exhibit complementary strengths, motivating routing methods that dispatch each query to the most suitable model. Although existing routers are effective in single-turn settings, they do not directly transfer to multi-turn dialogue, where routing performance critically depends on how historical context is segmented, retained, and incorporated into the current prompt. This introduces two fundamental challenges: preventing information loss and information confusion during context construction, and evaluating routing quality without conflating model selection with prompt construction quality. In this paper, we propose SWRouter, a Similarity-Contractive Window Router for multi-turn large language model routing. SWRouter combines a similarity-based context segmentation mechanism for prompt construction with a dual-metric evaluation framework that decouples construction accuracy from router performance. Experiments on multi-turn dialogue benchmarks demonstrate that SWRouter consistently surpasses strong baselines, achieving a 16.26% improvement in evaluation accuracy over the best individual large language model and an additional 8.22% gain over the Conv-ID Context baseline. Our results highlight that multi-turn large language model routing requires a joint design of context construction and evaluation, rather than a direct extension of single-turn routing methods.