基于无损压缩和量化感知的SAR舰船检测网络边缘部署

来源：信号处理杂志 2024年第9期北京时间：

作者：胡卫杰, 刘颖冰, 马飞, 张帆

摘要：基于深度神经网络的方法在合成孔径雷达（Synthetic Aperture Radar，SAR）图像舰船目标检测任务上展现出巨大优势，但是庞大的参数量和算力需求导致其难以在资源受限的边缘环境下部署。针对该问题，本文从网络轻量化和模型部署优化两个层面对单阶段目标检测网络YOLO（You Only Look Once）v5s进行改进，提出了面向边缘环境的SAR图像舰船目标检测网络部署方法。在网络轻量化层面，本文联合基于批归一化层缩放因子的通道级网络剪枝和基于特征响应的细粒度知识蒸馏实现了舰船检测网络的无损压缩。轻量化模型的参数量和计算量相较于基线分别下降了80.3%和51.3%，并且没有引起检测精度的损失，在SAR图像舰船检测数据集（SAR Ship Detection Dataset，SSDD）上的平均准确率为0.979（基线为0.980）。在模型部署优化层面，本文基于嵌入式GPU（Graphic Process Unit）提出了量化感知训练指导的混合精度TensorRT（Tensor Real-Time）推理引擎，大幅提升模型推理速度的同时降低了设备的运行功耗。轻量化推理引擎在尺寸为640×640 pixels的SAR图像上的推理速度为208帧每秒，达到了基线的3.41倍，同时设备的推理功耗仅6.2 W，相比基线下降了61.0%。另外，得益于量化感知训练，混合精度TensorRT推理引擎在取得与8位整型精度TensorRT推理引擎相似的推理速度和功耗的同时，平均准确率提升了44.1%，仅比基线下降了0.9%。试验数据证明，本文所提方法能够很好地兼顾边缘环境下SAR图像舰船目标检测的实时性、精准性和低功耗特性等要求。

关键词：‍‍合成孔径雷达图像, 舰船目标检测, 模型压缩, 嵌入式GPU