融合剪枝与量化的目标检测网络压缩方法

来源：计算机工程与应用杂志2022年第22期北京时间：

作者：杨国威, 许志旺, 房臣, 王以忠

单位：天津科技大学 电子信息与自动化学院，天津 300222

摘要：针对目标检测网络参数量冗余、模型复杂、推理速度缓慢以及难以部署在资源受限的嵌入式设备等问题，提出一种融合剪枝与量化的目标检测网络压缩方法。首先对目标检测网络模型进行稀疏化训练得到缩放因子，并根据缩放因子的分布计算卷积层中通道重要性的占比，根据缩放因子计算动态阈值将对网络模型贡献小的卷积层剪除。然后通过均匀映射的方式将32位浮点型数据量化成8位整型数据，减少网络计算量的同时压缩网络模型的大小。最后采用YOLO系列目标检测网络对行人与车辆数据集、Hands数据集和VOC2012数据集进行压缩方法验证。实验表明，目标检测网络经过动态阈值剪枝和均匀映射量化后在精度损失4%的前提下，将网络模型从234?MB压缩至10?MB以内，检测速度提升5倍，有效解决了部署应用难的问题。

关键词：目标检测网络,模型压缩,动态阈值剪枝,缩放因子,均匀映射量化