基于稀疏裁剪和深度可分离的轻量化方法

来源：计算机技术与发展杂志2022年第S1期北京时间：

作者：盛良睿;程旗;李捷;高晓利;唐培人;聂常赟

摘要：传统深度神经网络对计算资源、存储资源的高要求,导致无法很好地在轻量化嵌入式平台上移植。 为解决这一问题,提出了一种深度神经网络轻量化的方法,并基于目前工业界主流的 YOLO v3 网络验证了该方法的可行性和有效性。首先介绍了稀疏通道裁剪和卷积深度可分离的概念与原理,然后将 YOLO v3 的主干网络转换成以深度可分离为核心思想的 MobileNet v3,最后对该网络进行稀疏通道裁剪,在裁剪过程中不断调整裁剪阈值以期获得最佳结果,即达到目标检测识别精度和模型压缩倍数的均衡。 仿真结果表明,经过轻量化设计的 MolibeNetv3 的性能优于 darknet53,网络模型压缩了 2. 6 倍,精度提升了约 4% 。 在此基础上经过稀疏通道裁剪处理后,YOLOv3 网络的最终精度提升了约 3. 2% ,模型压缩了 18. 9 倍,推理速度提升了 27% 。

关键词：深度神经网络;稀疏通道裁剪;深度可分离;轻量化;YOLO v3