基于BiGRU-attention神经网络的文本情感分类模型

来源：计算机应用研究杂志2019年第12期北京时间：

作者：王伟,孙玉霞,齐庆杰,孟祥福,

单位：辽宁工程技术大学a.科学技术研究院;b.电子与信息工程学院;c.矿业技术学院,辽宁葫芦岛125105；

摘要：针对双向长短时记忆神经（BiLSTM）模型训练时间长、不能充分学习文本上下文信息的问题，提出一种基于BiGRU-attention的文本情感分类模型。首先，利用双向门控循环（BiGRU）神经网络层对文本深层次的信息进行特征提取；其次，利用注意力机制（attention）层对提取的文本深层次信息分配相应的权重；最后，将不同权重的文本特征信息放入softmax函数层进行文本情感极性分类。实验结果表明，所提的神经网络模型在IMDB数据集上的准确率是90.54%，损失率是0.2430，时间代价是1100 s，验证了 BiGRU-attention模型的有效性。

关键词：文本情感分类,注意力机制,双向门控循环神经网络,

基金资助：国家自然科学基金资助项目(61772249)；2016年辽宁省教育厅城市研究院一般项目(LJCL008)；；