轻量化深度卷积神经网络设计研究进展

来源：计算机工程与应用杂志2024年第22期北京时间：

作者：周志飞, 李华, 冯毅雄, 陆见光, 钱松荣, 李少波

单位：1.贵州大学 省部共建公共大数据国家重点实验室，贵阳 550025；2.清华大学 机械工程系，北京 100084

摘要：轻量化设计是解决深度卷积神经网络（deep convolutional neural network，DCNN）对设备性能和硬件资源依赖性的流行范式，轻量化的目的是在不牺牲网络性能的前提下，提高计算速度和减少内存占用。综述了DCNN的轻量化设计方法，着重回顾了近年来DCNN的研究进展，包括体系设计和模型压缩两大轻量化策略，深入比较了这两类方法的创新性、优势与局限性，并探讨了支撑轻量化模型的底层框架。此外，对轻量化网络已经成功应用的场景进行了描述，并对DCNN轻量化的未来发展趋势进行了预测，旨在为深度卷积神经网络的轻量化研究提供有益的见解和参考。

关键词：深度卷积神经网络,轻量化,体系设计,模型压缩