基于自动编码器组合的深度学习优化方法

来源：计算机应用杂志2016年第3期北京时间：

作者：邓俊锋, 张晓龙

单位：1. 武汉科技大学 计算机科学与技术学院, 武汉 430065;2. 智能信息处理与实时工业系统湖北省重点实验室, 武汉 430065

摘要：为了提高自动编码器算法的学习精度,更进一步降低分类任务的分类错误率,提出一种组合稀疏自动编码器(SAE)和边缘降噪自动编码器(mDAE)从而形成稀疏边缘降噪自动编码器(SmDAE)的方法,将稀疏自动编码器和边缘降噪自动编码器的限制条件加载到一个自动编码器(AE)之上,使得这个自动编码器同时具有稀疏自动编码器的稀疏性约束条件和边缘降噪自动编码器的边缘降噪约束条件,提高自动编码器算法的学习能力。实验表明,稀疏边缘降噪自动编码器在多个分类任务上的学习精度都高于稀疏自动编码器和边缘降噪自动编码器的分类效果;与卷积神经网络(CNN)的对比实验也表明融入了边缘降噪限制条件,而且更加鲁棒的SmDAE模型的分类精度比CNN还要好。

关键词：深度学习,自动编码器,稀疏自动编码器,降噪自动编码器,卷积神经网络

基金资助：国家自然科学基金资助项目(61273225);国家科技支撑计划项目(2012BAC22B01)。