基于 KPCA 初始化卷积神经网络的方法

来源：计算机技术与发展杂志2019年第07期北京时间：

作者：蔡楠;李萍

摘要：为了解决卷积神经网络中卷积核不能得到有效初始化,导致网络训练难度增加,使网络收敛速度过慢的问题,提出了一种基于 KPCA 初始化卷积核的方法(KPCA-CNN)。 该方法首先创建一个与卷积核大小相同的感受野对每个卷积层第一次输入的所有图像进行滑动采样,采样后的数据经过 KPCA 处理提取主成分,初始化卷积核。 与 PCA 相比,KPCA对图像中的非线性特征有较好的提取能力,所提取的主成分中包含了输入图像的非线性特征,能够更加有效地初始化卷积核,从而降低网络的训练难度,使网络收敛速度变快。 分别将 PCA 初始卷积核方法和 KPCA 初始化卷积核方法应用在MNIST 手写数字识别上进行实验仿真,结果表明 KPCA 初始化卷积核的方法增加了网络的准确率,加快了网络的收敛速度。

关键词：卷积神经网络;卷积核初始化;主成分分析;核主成分分析;MNIST