基于概率神经网络的在线分类器

来源：计算机技术与发展杂志2019年第12期北京时间：

作者：吴垒;于哲舟

摘要：由 Specht 提出的概率神经网络(PNN)由于训练效率和统计基础而被广泛应用于各个领域。 但是由于在 PNN 中使用 Parzen 窗口估计概率密度函数(PDF),整个训练数据会存储在模式层中,这无疑增加了存储负担。 而且,仅使用一个全局平滑参数的原始 PNN 不能准确地表示复杂数据集中的局部信息。 在对原始 PNN 进行了研究后,文中提出了一种新在线学习概率神经网络(OL-PNN)。 在线学习概率神经网络应用随机梯度上升方法实时更新参数,并采用高斯聚类将训练数据分类为由混合高斯模型表示的若干簇,其中高斯核函数中的每个维度都有各自的平滑参数和中心参数,从而可以减弱由于数据的不均匀分布引起的失真。 此外,为了提高学习和表达能力,补偿由聚类算法引起的偏差,神经网络模型添加了一个额外的线性特征层。 实验结果表明,该模型明显优于原始 PNN,并且与很多流行分类器相当。

关键词：神经网络;分类器;概率神经网络;在线学习;核函数估计