《计算机工程与科学杂志》发表论文赏析

基于EMD距离的稀疏自编码器

来源:计算机工程与科学杂志2022年第5期北京时间:

作者:范韫

单位:(国防大学政治学院,上海 200433)

摘要:KL散度在机器学习领域被广泛地用于模型损失函数之中来度量分布的距离。在稀疏自编码器中,KL散度被用作损失函数的惩罚项来度量神经元输出与稀疏参数的距离,使得神经元输出趋近稀疏参数,从而抑制神经元的激活以得到稀疏编码。在WGAN中,Wasserstein距离被用于解决GAN的梯度消失和模式塌陷问题,使得GAN的训练更加稳定。得益于Wasserstein距离在GAN中的成功应用,提出了基于EMD距离的稀疏自编码器SAE-EMD。实验结果表明,相比于使用KL散度与JS散度,使用EMD距离作为惩罚项的稀疏自编码器可以使得真实样本与重构样本之间的重构误差减小,并且随着惩罚参数的增大,编码更加稀疏。

关键词:稀疏自编码器,正则化,EMD距离,KL散度,

2022年5期其他文献查阅:

高速芯片封装中多平行传输线的设计与优化

一种类脑处理器片上网络的验证框架

面向云环境的Flink负载均衡策略

基于Hellinger距离的不平衡漂移数据流Boosting分类算法

可防止无关属性干扰的属性基加密方案

基于ECC的区块链数据共享系统设计

基于随机森林算法的无线传感网络攻击流量阻断模型构建

基于半监督生成对抗网络的恶意代码家族分类实现

基于染色随机游走的可重叠社区发现

基于全卷积神经网络的单幅隧道图像裂纹提取算法

判别增强的生成对抗模型在文本至图像生成中的研究与应用

基于全融合网络的三维点云语义分割

用于CD56图像分割的细胞标注精细化与自适应加权损失

基于计算机辅助诊断技术的阿尔兹海默症早期分类研究综述

基于EMD距离的稀疏自编码器

混合神经网络模型与注意力机制的地址匹配算法

基于改进蚁群优化算法的养殖场机器人路径规划

小数据集情况下基于变权重融合的BN参数学习算法

基于多图卷积神经网络和注意力机制的学术新星预测方法

基于非负矩阵分解的群组推荐算法

基于改进在线极限学习机的短时交通流预测模型研究

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!