《电子与信息学报杂志》发表论文赏析
作者:刘伟, 李文娟, 高晋, 李椋
单位:1.中国科学院自动化研究所模式识别国家重点实验室 北京 1000982.军事认知与脑科学研究所 北京 100850
摘要:脉冲神经网络(SNN)是一种模拟大脑神经元动力学的低功耗神经网络,为高计算效率、低能源消耗环境部署目标检测任务提供了可行的解决方案。由于脉冲的不可微性质导致SNN训练困难,一种有效的解决方法是将预训练的人工神经网络(ANN)转换为SNN来提高推理能力。然而,转换后的SNN 经常遇到性能下降和高延迟的问题,无法满足目标检测任务对高精度定位的要求。该文针对ANN转SNN过程中产生的误差问题,引入对偶误差模型降低转换性能损失。首先,该文分析误差产生原因,构建对偶误差模型来模拟ANN到SNN转换误差。进一步地,将对偶误差模型引入到ANN训练过程,使转换前后的模型在训练和推理过程中误差保持一致,从而降低模型的转换性能损失。最后,利用轻量化检测算法YOLO在数据集PASCAL VOC和 MS COCO上验证了对偶误差模型的有效性。
关键词:脉冲神经网络, 目标检测, 转换误差, 对偶误差模型
基金资助:国家重点研发计划(2020AAA0105802, 2020AAA0105800),国家自然科学基金(62202469),北京市自然科学基金(4224091)