Chain-of-Adaptation: Surgical Vision-Language Adaptation with Reinforcement Learning

📄 arXiv: 2603.20116v1 📥 PDF

作者: Jiajie Li, Chenhui Xu, Meihuan Liu, Jinjun Xiong

分类: cs.CV, cs.AI

发布日期: 2026-03-20

💡 一句话要点

提出Chain-of-Adaptation框架，通过强化学习实现手术视觉-语言模型的领域自适应

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言模型 领域自适应 强化学习 手术场景 多模态学习

📋 核心要点

  1. 传统微调方法在特定领域数据集上容易改变模型预训练的多模态先验，降低泛化能力。
  2. Chain-of-Adaptation (CoA) 框架通过强化学习，在保持模型推理和感知能力的同时，整合领域知识。
  3. 实验表明，CoA 在手术基准测试中，相比监督微调，实现了更高的准确率和更强的泛化能力。

📝 摘要（中文）

本文提出了一种名为Chain-of-Adaptation (CoA) 的自适应框架，旨在整合领域知识，同时保持模型固有的推理和感知能力，以解决传统领域特定数据集上的微调可能无意中改变模型预训练的多模态先验，从而导致泛化能力下降的问题。CoA引入了一种结构化的推理格式，通过强化学习增强领域对齐，而不牺牲一般的多模态能力。在标准手术基准测试中，无论是在同分布还是异分布设置下，实验结果表明，CoA比监督微调实现了更高的准确率、更强的泛化能力和更稳定的行为。此外，消融研究证实，CoA有效地保留了模型的核心视觉-语言能力，为VLM中的领域专业化提供了一条可靠的途径。

🔬 方法详解

问题定义：现有视觉-语言模型（VLM）在特定领域（如手术场景）进行微调时，容易遗忘或改变其预训练的多模态知识，导致泛化能力下降。传统微调方法无法有效平衡领域适应性和通用能力保持的问题。

核心思路：论文的核心思路是通过引入一个结构化的推理格式，并利用强化学习来引导模型进行领域自适应。这种方法旨在在适应特定领域知识的同时，保留模型原有的视觉和语言推理能力，避免过度拟合领域数据。

技术框架：CoA框架包含以下主要模块：1) 结构化推理格式：定义了一种链式推理过程，将领域知识融入到模型的推理过程中。2) 强化学习策略：使用强化学习来优化模型的自适应策略，使其能够更好地平衡领域适应性和通用能力。3) 视觉-语言模型：使用预训练的VLM作为基础模型，并在其基础上进行自适应。整个流程通过强化学习不断优化结构化推理的每一步，从而实现更好的领域适应效果。

关键创新：CoA的关键创新在于使用强化学习来指导视觉-语言模型的领域自适应过程。与传统的监督微调方法不同，CoA能够更有效地保留模型的通用能力，并在适应特定领域知识的同时，避免过度拟合。此外，结构化的推理格式也为模型提供了更清晰的领域知识表示。

关键设计：在强化学习方面，论文可能使用了特定的奖励函数来鼓励模型在领域适应的同时保持通用能力。结构化推理格式的具体设计（例如，推理步骤的数量、每一步的输入输出格式）也是关键的设计选择。具体的网络结构可能包括一个策略网络，用于生成自适应策略，以及一个价值网络，用于评估当前状态的价值。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CoA在标准手术基准测试中，相比监督微调，实现了更高的准确率和更强的泛化能力。在同分布和异分布设置下，CoA均表现出更稳定的性能。消融研究进一步验证了CoA能够有效保留模型的核心视觉-语言能力。

🎯 应用场景

该研究成果可应用于医疗机器人、智能手术辅助系统等领域。通过提升视觉-语言模型在手术场景中的理解和推理能力，可以帮助医生更准确地进行手术操作，提高手术效率和安全性。未来，该方法还可以推广到其他专业领域，例如自动驾驶、智能客服等。

📄 摘要（原文）

Conventional fine-tuning on domain-specific datasets can inadvertently alter a model's pretrained multimodal priors, leading to reduced generalization. To address this, we propose Chain-of-Adaptation (CoA), an adaptation framework designed to integrate domain knowledge while maintaining the model's inherent reasoning and perceptual capabilities. CoA introduces a structured reasoning format that enhances domain alignment without sacrificing general multimodal competence by reinforcement learning. Experiments on standard surgical benchmarks, under both in-distribution and out-of-distribution settings, demonstrate that CoA achieves higher accuracy, stronger generalization, and more stable behavior than supervised fine-tuning. Furthermore, ablation studies confirm that CoA effectively preserves the model's core visual-language abilities, providing a reliable pathway for domain specialization in VLMs.