基于时间误差的循环神经网络参数压缩
来源：计算机工程与应用杂志2020年第3期北京时间：
作者：王龙钢，刘世杰，冯珊珊，李宏伟
单位：中国地质大学（武汉） 数学与物理学院，武汉 430074
摘要：循环神经网络被广泛应用于各种序列数据处理任务中，如机器翻译、语音识别、图像标注等。基于循环神经网络的语言模型通常包含大量的参数，这一点在一定程度上限制了模型在移动设备或嵌入式设备上的使用。在低秩重构压缩的基础上，增加时间误差重构函数，并采用长短时记忆网络中的输入激活机制，提出了一种基于时间误差的低秩重构压缩方法。多个数据集上的数值实验表明，该方法具有较好的压缩效果。
关键词：循环神经网络,长短时记忆网络,低秩重构压缩,基于时间误差的低秩重构压缩
