基于输入分片扰乱的BP神经网络MapReduce训练方法

来源：计算机工程与应用杂志2018年第2期北京时间：

作者：陈旺虎，俞茂义，马生俊

单位：西北师范大学 计算机科学与工程学院，兰州 730070

摘要：BP神经网络的MapReduce训练中，每个map训练任务产生的中间权阵只对该训练节点上的输入分片收敛，为提高BP神经网络的训练效率，保证MapReduce训练的全局收敛性，提出一种基于输入分片扰乱的MapReduce训练方法。通过对训练样本集进行系统抽样来扰乱输入分片，并产生新的输入分片，依靠新的输入分片以map任务的原权阵为基础进行迭代训练，可加速MapReduce训练达到收敛的进程；为提高map训练任务的局部收敛速度，在每轮次的训练完成后，选取map任务产生的权阵中全局误差最小者，作为下轮次各map训练任务的初始权阵。在Hadoop集群上的实验表明，该方法可使MapReduce训练BP神经网络的效率得到很大提升。

关键词：神经网络,MapReduce,输入分片,收敛