基于双阈值的ANN-SNN转换方法优化

来源：计算机测量与控制杂志2024年第11期北京时间：

作者：何赟泽,张天安,邓堡元,王洪金,王耀南

单位：湖南大学 电气与信息工程学院;机器人视觉感知与控制技术国家工程研究中心

摘要：脉冲神经网络作为第三代神经网络，能够克服许多人工神经网络中所存在的问题，如高功耗、鲁棒性较差等。通过对预训练好的人工神经网络模型进行转换是获取深度脉冲神经网络模型的一种主要方法，然而通过这种方法获取的脉冲神经网络的延迟较高，无法满足实时性要求。论文在双阈值转换方法的基础上，采用阈值平衡技术对转换过程进行优化，通过理论推导，提出了一种对称阈值LeakyReLU激活函数，并对人工神经网络到脉冲神经网络的转换流程进行了梳理。此外，采用了泄漏机制对转换后的脉冲神经网络模型结构进行了优化，并通过脉冲时序依赖可塑性学习规则对该结构进行训练。最终，在MNIST数据集与CIFAR-10数据集上进行了实验，结果表明，优化后脉冲神经网络的收敛速度与鲁棒性得到了大幅提升。

关键词：ANN-SNN转换;双阈值;阈值平衡;脉冲时序依赖可塑性;泄漏机制

基金资助：国家自然科学基金(62101184),湖南省科技创新领军人才(2023RC1039),湖南省自然科学基金重大项目(2021JC0004)