基于改进激活函数的卷积神经网络研究

来源：计算机技术与发展杂志2017年第12期北京时间：

作者：曲之琳;胡晓飞

摘要：卷积神经网络是对于人脑的高度抽象,它是深度学习的重要组成部分。 对于卷积神经网络的研究,一方面有助于更准确地进行图像的分类与识别,另一方面,有助于人类更真实地模拟人脑,为人工智能的发展指明了方向。 分析比较了Sigmoid、Tanh、ReLu、Softplus4 种激活函数的优缺点。 结合 ReLu 和 Softplus 两种激活函数的优点,设计并构造了一种分段激活函数。 最后,基于 Theano 框架和这 5 种激活函数,分别构建了 5 种卷积神经网络,并对 Cifar-10 数据集进行了分类识别。 实验结果表明,基于改进后的激活函数所构造的卷积神经网络,不仅收敛速度更快,而且可以更加有效地提高分类的准确率。

关键词：卷积神经网络;深度学习;人工智能;激活函数