Threats to Arabic Handwriting Recognition: Investigating Black-Box Adversarial Attacks on embedded ConvNet models

📄 arXiv: 2605.18058v1 📥 PDF

作者: Mohsine EL Khayati, Abdelillah Semma, Abdelaziz Courr, Rachid Elouahbi

分类: cs.CV

发布日期: 2026-05-18

备注: Accepted in the IEEE 15th Image, Video, and Multidimensional Signal Processing Workshop 2026

💡 一句话要点

揭示阿拉伯手写识别模型漏洞：针对嵌入式卷积网络的黑盒对抗攻击研究

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 阿拉伯手写识别 对抗攻击 黑盒攻击 卷积神经网络 模型安全

📋 核心要点

  1. 现有阿拉伯手写识别研究主要关注性能提升，忽略了模型在对抗攻击下的安全性。
  2. 本文探索了黑盒对抗攻击对阿拉伯手写识别模型的威胁，模拟了攻击者对模型架构未知情况下的攻击。
  3. 实验表明，即使是高性能模型也容易受到对抗攻击，Pixel攻击成功率高达99-100%，凸显了安全防护的必要性。

📝 摘要（中文）

本文研究了深度学习模型在阿拉伯手写识别(AHR)中的安全性问题，重点关注黑盒对抗攻击。与以往侧重性能的研究不同，本文旨在揭示高性能AHR模型在面对攻击时的脆弱性。研究人员在两个基准AHR数据集上进行了大量实验，结果表明，即使攻击者对模型架构一无所知，攻击仍然有效。其中，Pixel攻击在大多数模型上实现了99-100%的攻击成功率，而其他攻击的成功率也达到了50-96%。值得注意的是，这些攻击在保持字符结构完整性的同时，几乎无法被人眼察觉。研究结果表明，所研究的模型极易受到对抗性操纵，因此有必要加强对这些模型的安全保护，以确保其在实际AHR应用中的可靠性。

🔬 方法详解

问题定义：论文旨在解决阿拉伯手写识别（AHR）模型在面对黑盒对抗攻击时的脆弱性问题。现有AHR研究主要关注模型识别精度，而忽略了其安全性。在实际应用中，攻击者通常无法获取模型的内部结构信息，因此黑盒攻击更具现实意义。现有方法缺乏对AHR模型对抗鲁棒性的评估和防御机制。

核心思路：论文的核心思路是评估现有AHR模型在黑盒攻击下的性能表现，揭示其安全漏洞。通过设计不同的黑盒攻击方法，模拟攻击者在无法获取模型内部信息的情况下，对模型进行攻击，从而评估模型的鲁棒性。这种评估能够帮助研究人员了解AHR模型在实际应用中可能面临的安全风险。

技术框架：论文的技术框架主要包括以下几个步骤：1) 选择具有代表性的AHR数据集和嵌入式卷积神经网络模型；2) 设计并实现多种黑盒对抗攻击方法，例如Pixel攻击等；3) 在选定的数据集和模型上进行实验，评估不同攻击方法的攻击成功率；4) 分析实验结果，揭示模型的脆弱性，并提出可能的防御策略。

关键创新：论文的关键创新在于：1) 首次系统性地研究了黑盒对抗攻击对阿拉伯手写识别模型的威胁；2) 评估了多种黑盒攻击方法在AHR模型上的有效性，并分析了攻击的特点；3) 强调了AHR模型在实际应用中面临的安全风险，并呼吁加强对模型安全性的研究。

关键设计：论文中，黑盒攻击方法的设计是关键。Pixel攻击通过微调图像中的少量像素来欺骗模型，而无需了解模型的内部结构。实验中，研究人员调整了攻击的强度和范围，以评估模型在不同攻击条件下的性能。此外，研究人员还分析了攻击样本的特点，例如对抗扰动的分布和幅度，以更好地理解攻击的原理。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，Pixel攻击在大多数模型上实现了99-100%的攻击成功率，证明了即使是高性能的AHR模型也容易受到对抗攻击。其他攻击方法，如成功率在50-96%之间，也显示出显著的攻击效果。更重要的是，这些攻击产生的对抗样本在视觉上与原始样本几乎没有区别，难以被人眼察觉，这进一步凸显了AHR模型在实际应用中面临的安全风险。

🎯 应用场景

该研究成果可应用于提升阿拉伯手写识别系统的安全性，例如在银行支票识别、邮政编码识别、文档图像分析等领域。通过了解模型在对抗攻击下的脆弱性，可以开发更鲁棒的AHR系统，降低恶意攻击带来的风险，保障相关应用的可靠性和安全性。未来的研究可以集中在开发有效的防御机制，提高AHR模型在实际应用中的抗攻击能力。

📄 摘要（原文）

Arabic handwriting recognition (AHR) has made significant progress with deep learning models. AHR research has largely focused on performance, with security receiving little attention. This study provides what appears to be a new line of inquiry by demonstrating the vulnerability of high-performing models to adversarial black-box attacks. The focus on black-box attacks reflects real-world scenarios where the attacker has no prior knowledge of the model architecture. Extensive experiments were conducted on two benchmark AHR datasets containing Arabic handwritten Characters. Results demonstrated the effectiveness of the attacks, with the Pixle attack achieving an attack success rate of 99-100\% on most models. Other, less aggressive attacks achieved success rates of 50-96\% across most experiments. Despite the higher attack success rate, the attacks maintain the structural integrity of the characters, rendering them almost imperceptible to the human eye. The findings indicate the higher vulnerability of the studied models to adversarial manipulation. This underscores the need to strengthen efforts to secure these models and ensure their reliability in AHR real-world applications.