基于剪枝网络的知识蒸馏对遥感卫星图像分类方法

来源：计算机应用研究杂志2021年第8期北京时间：

作者：杨宏炳,迟勇欣,王金光,

单位：1.合肥工业大学计算机与信息学院,合肥230601；2.西安电子科技大学a.人工智能学院;b.智能感知与图像理解教育部重点实验室,西安710126；

摘要：针对目前遥感图像在应用卷积神经网络分类时需要大量计算，并占用大量内存的问题，提出了一种基于剪枝网络的知识蒸馏对遥感图像分类方法。以模型剪枝理论为基础，在网络结构中引入注意力机制，加强对重要特征的提取之后，并对网络进行模型剪枝，然后引入知识蒸馏技术对模型进行迁移学习，补偿模型剪枝之后分类精度的损失。为了证明方法的先进性与可靠性，利用在NWPU-RESISC45遥感卫星数据集上，与同类算法进行对比实验。实验结果表明，所提方法不仅在分类精度有更好的表现，并且在模型大小上更具有优势。

关键词：遥感图像,深度学习,注意力机制,模型剪枝,知识蒸馏,

基金资助：国家重点研发计划资助项目(YFA0706200)；国家自然科学基金资助项目(61702156,61772171,61976076)；安徽省自然科学基金资助项目(1808085QF188)；；