深度学习模型中间层特征压缩技术综述

来源：计算机应用研究杂志2023年第5期北京时间：

作者：汪维,徐龙,陈卓,

单位：1.中国科学院国家空间科学中心空间天气国家重点实验室,北京100190；2.中国科学院大学,北京100049；3.中国科学院国家天文台,北京100101；4.新加坡科技局通信研究院,新加坡999002；

摘要：深度学习模型中间层特征压缩作为深度学习领域中一个新兴的研究热点被广泛关注并应用于边端—云端智能协同任务中。针对深度学习模型中间层特征压缩的研究现状，对当前压缩方式中存在的问题进行分析总结。首先，系统地分类阐述了基于图像/视频编解码框架、基于特征通道比特分配和基于深度学习网络结构的三种深度学习模型中间层特征压缩方式；随后，对比了三种深度学习模型中间层特征压缩方式在数据集上的表现；最后，探讨了当前深度学习模型中间层特征压缩研究面临的挑战，展望了中间层特征压缩技术未来的发展趋势。

关键词：深度学习,边云端智能协作,特征压缩,编码框架,比特分配,

基金资助：国家重点研发计划资助项目(2021YFA1600504)；国家自然科学基金资助项目(11790305)；；