MapSteal: Map-based Autonomous Knowledge Stealing Attack Against Large Language Models

📄 arXiv: 2610.25626v1 📥 PDF

作者: Zhengao Li, Chuxu Zhang, Yushun Dong

分类: cs.CL, cs.AI

发布日期: 2026-10-19

🔗 代码/项目: GITHUB


💡 一句话要点

提出MapSteal以解决自主知识获取挑战

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 知识获取 大型语言模型 递归学习 学生模型 医学评估 网络安全 自主学习

📋 核心要点

  1. 现有知识获取方法依赖于预定义查询或学生反馈,限制了知识目标的自主扩展。
  2. MapSteal提出了一种结构化的递归知识获取框架,能够在没有学生反馈的情况下进行知识获取。
  3. 实验表明,MapSteal在多个基准测试中表现优异,尤其在医学领域的准确率有显著提升。

📝 摘要(中文)

从黑箱大型语言模型(LLMs)中获取知识为适应较小的学生模型提供了实用的方法。然而,现有方法通常依赖于预定义查询或学生反馈,导致自主扩展知识目标成为重要挑战。本文提出了MapSteal,一个独立于学生的结构化递归知识获取框架。该框架从少量初始根节点出发,通过教师提出的方向递归扩展获取目标。问题实现、提案接纳和去重约束了获取过程,而根节点感知调度在固定的问答预算下组织探索。实验结果显示,MapSteal在多个医学和网络安全基准测试中表现出竞争力,尤其在4B医学评估中,相较于简化的递归获取变体,平均准确率提高了1.17个百分点。

🔬 方法详解

问题定义:本文旨在解决现有知识获取方法对学生反馈和预定义查询的依赖,导致知识目标扩展受限的问题。

核心思路:MapSteal通过结构化的状态表示和教师引导的递归扩展,独立于学生模型进行知识获取,旨在提高获取效率和质量。

技术框架:该框架包括初始根节点的选择、教师提出的方向引导、问题实现、提案接纳、去重处理和根节点感知调度等模块,确保在固定的问答预算下有效探索。

关键创新:MapSteal的主要创新在于其结构化的递归获取方式,区别于传统方法的依赖反馈机制,能够实现更高效的知识获取。

关键设计:在设计上,MapSteal引入了问题实现和去重机制,确保获取的问答对质量高且不重复,同时通过根节点感知调度优化探索过程。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在实验中,MapSteal在4B医学评估中相比简化的递归获取变体提高了1.17个百分点的平均准确率,显示出其在知识获取方面的有效性。跨领域评估结果表明,性能提升与领域和评估面板密切相关,验证了方法的广泛适用性。

🎯 应用场景

该研究的潜在应用领域包括教育、医疗和网络安全等多个领域,能够帮助小型模型有效获取和利用大型语言模型的知识,提升其在特定任务中的表现。未来,MapSteal可能推动更多自主学习和知识获取的研究,促进智能系统的智能化发展。

📄 摘要(原文)

Knowledge acquisition from black-box large language models (LLMs) offers a practical approach to adapting smaller student models. However, many existing methods rely on predefined queries or student feedback to guide acquisition, leaving autonomous expansion of knowledge targets an important challenge. We propose \textbf{MapSteal}, a student-independent framework for structured recursive knowledge acquisition. Starting from a small set of initial roots, MapSteal represents acquisition targets using structured states and recursively expands them through teacher-proposed directions. Question realization, proposal admission, and deduplication constrain the acquisition process, while root-aware scheduling organizes exploration under a fixed QA budget. The resulting question--answer pairs are used to adapt student models without requiring student feedback during acquisition. Experiments with Qwen3.5 students at 2B, 4B, and 9B scales show competitive downstream performance across six medical and cybersecurity benchmarks. On the 4B medical evaluation, Full MapSteal improves average accuracy by 1.17 percentage points over a simplified recursive acquisition variant. Cross-domain evaluations show that gains depend on the domain and evaluation panel. These results demonstrate the feasibility of structured, student-independent recursive acquisition while highlighting the distinction between generating acquisition targets and obtaining useful training supervision. Our code is available at \href{https://github.com/LabRAI/Mapsteal} {https://github.com/LabRAI/Mapsteal}.