基于稀疏降噪自编码器的深度置信网络
来源：计算机应用杂志2017年第9期北京时间：
作者：曾安, 张艺楠, 潘丹, Xiao-Wei Song
单位：1. 广东工业大学 计算机学院, 广州 510006;2. 广东建设职业技术学院 现代教育技术中心, 广州 510440;3. 西蒙弗雷泽大学 影像技术实验室, 加拿大 温哥华 V6B 5K3
摘要：传统的深度置信网络（DBN）采用随机初始化受限玻尔兹曼机（RBM）的权值和偏置的方法初始化网络。虽然这在一定程度上克服了由BP算法带来的易陷入局部最优和训练时间长的问题，但随机初始化仍然会导致网络重构和原始输入的较大差别，这使得网络无论在准确率还是学习效率上都无法得到进一步提升。针对以上问题，提出一种基于稀疏降噪自编码器（SDAE）的深度网络模型，其核心是稀疏降噪自编码器对数据的特征提取。首先，训练稀疏降噪自编码；然后，用训练后得到的权值和偏置来初始化深度置信网络；最后，训练深度置信网络。在Poker Hand 纸牌游戏数据集和MNIST、USPS手写数据集上测试模型性能，在Poker Hand数据集下，方法的误差率比传统的深度置信网络降低46.4%，准确率和召回率依次提升15.56%和14.12%。实验结果表明，所提方法能有效地改善模型性能。
关键词：深度置信网络,受限玻尔兹曼机,稀疏降噪自编码器,深度学习
基金资助：国家自然科学基金资助项目（61300107）；广东省自然科学基金资助项目（S2012010010212）；广州市科技计划资助项目（201504301341059， 201505031501397）。
