Edge AI-Enabled Chicken Health Detection Based on Enhanced FCOS-Lite and Knowledge Distillation

📄 arXiv: 2407.09562v3 📥 PDF

作者: Qiang Tong, Jinrui Wang, Wenshuang Yang, Songtao Wu, Wenqi Zhang, Chen Sun, Kuanhong Xu

分类: cs.CV, eess.IV

发布日期: 2024-07-03 (更新: 2024-11-05)

DOI: 10.1016/j.compag.2024.109432

💡 一句话要点

提出基于增强FCOS-Lite和知识蒸馏的边缘AI鸡群健康检测方案

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 边缘计算 AIoT 目标检测 知识蒸馏 FCOS 鸡群健康检测 轻量级模型 智慧养殖

📋 核心要点

  1. 现代家禽管理面临优化运营和减少人工工作量的需求，AIoT技术应用是关键趋势。
  2. 提出一种基于增强FCOS-Lite和知识蒸馏的边缘AI检测器，用于鸡群健康状态识别。
  3. 实验结果表明，该检测器在边缘设备上实现了高精度和高效率，mAP达到95.1%，F1-score达到94.2%，帧率超过20FPS。

📝 摘要（中文）

本文提出了一种基于边缘AI的实时紧凑型检测器，用于识别鸡群及其健康状况。该检测器利用轻量级智能相机捕获的图像帧，并配备了支持边缘AI的CMOS传感器。为了确保紧凑型检测器在内存受限的边缘AI CMOS传感器上的高效部署，采用了以MobileNet为骨干网络的FCOS-Lite检测器。为了缓解紧凑型边缘AI检测器精度降低的问题，提出了一种梯度加权损失函数作为分类损失，并引入CIOU损失函数作为定位损失。此外，还提出了一种知识蒸馏方案，将大型教师检测器的宝贵信息传递给FCOS-Lite检测器，从而在保持模型紧凑性的同时提高其性能。实验结果表明，所提出的边缘AI检测器实现了令人称赞的性能指标，包括95.1%的平均精度均值（mAP）和94.2%的F1分数等。值得注意的是，该检测器可以通过int8量化高效部署，并在边缘AI CMOS传感器上以超过20 FPS的速度运行，满足了使用低功耗和最小带宽成本的轻量级智能相机进行自动化家禽健康监测的实际需求。

🔬 方法详解

问题定义：论文旨在解决在资源受限的边缘设备上，如何高效准确地检测鸡群健康状况的问题。现有方法在部署轻量级模型时，往往会牺牲检测精度，难以满足实际应用的需求。

核心思路：论文的核心思路是通过模型压缩、损失函数优化和知识蒸馏等技术，在保证模型大小和推理速度的前提下，尽可能提高检测精度。具体而言，采用轻量级的FCOS-Lite检测器，并利用知识蒸馏将大型教师模型的知识迁移到小型模型中。

技术框架：整体框架包括数据采集、模型训练和边缘部署三个阶段。首先，利用轻量级智能相机采集鸡群图像数据。然后，在服务器端训练大型教师模型和小型FCOS-Lite模型，并进行知识蒸馏。最后，将训练好的小型模型部署到边缘AI CMOS传感器上，进行实时检测。

关键创新：论文的关键创新点在于：1) 提出了一种梯度加权损失函数，用于优化分类损失，提高检测精度；2) 引入CIOU损失函数作为定位损失，提高定位精度；3) 提出了一种知识蒸馏方案，将大型教师模型的知识迁移到小型模型中，从而在不增加推理成本的前提下提高模型性能。

关键设计：在网络结构方面，采用MobileNet作为FCOS-Lite的骨干网络，以减少模型参数量。在损失函数方面，使用梯度加权损失函数和CIOU损失函数，以提高检测精度和定位精度。在知识蒸馏方面，采用特征蒸馏和响应蒸馏相结合的方式，将教师模型的特征信息和预测结果迁移到学生模型中。此外，还采用了int8量化技术，进一步压缩模型大小，提高推理速度。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提出的边缘AI检测器在边缘AI CMOS传感器上实现了95.1%的mAP和94.2%的F1分数，并且能够以超过20 FPS的速度运行。通过int8量化，进一步提升了模型的推理速度，满足了实际应用的需求。相比于其他轻量级检测器，该方案在精度和速度上都取得了显著的提升。

🎯 应用场景

该研究成果可应用于智慧养殖领域，实现对鸡群健康状况的实时监测和预警，降低养殖成本，提高养殖效率。该方案还可扩展到其他家禽或牲畜的健康监测，具有广阔的应用前景和实际价值，有助于推动畜牧业的智能化发展。

📄 摘要（原文）

The utilization of AIoT technology has become a crucial trend in modern poultry management, offering the potential to optimize farming operations and reduce human workloads. This paper presents a real-time and compact edge-AI enabled detector designed to identify chickens and their healthy statuses using frames captured by a lightweight and intelligent camera equipped with an edge-AI enabled CMOS sensor. To ensure efficient deployment of the proposed compact detector within the memory-constrained edge-AI enabled CMOS sensor, we employ a FCOS-Lite detector leveraging MobileNet as the backbone. To mitigate the issue of reduced accuracy in compact edge-AI detectors without incurring additional inference costs, we propose a gradient weighting loss function as classification loss and introduce CIOU loss function as localization loss. Additionally, we propose a knowledge distillation scheme to transfer valuable information from a large teacher detector to the proposed FCOS-Lite detector, thereby enhancing its performance while preserving a compact model size. Experimental results demonstrate the proposed edge-AI enabled detector achieves commendable performance metrics, including a mean average precision (mAP) of 95.1$\%$ and an F1-score of 94.2$\%$, etc. Notably, the proposed detector can be efficiently deployed and operates at a speed exceeding 20 FPS on the edge-AI enabled CMOS sensor, achieved through int8 quantization. That meets practical demands for automated poultry health monitoring using lightweight intelligent cameras with low power consumption and minimal bandwidth costs.