《计算机应用与软件杂志》发表论文赏析
作者:姜雨娇, 黄铝文, 荚子萌
摘要:针对传统问答模型采用循环神经网络带来的梯度消失和网络退化的问题,提出一种基于IMGRU-Seq2seq(Identity Mapping Gated Recurrent Unit-Sequence to Sequence)的自动问答模型。通过TF-IDF方法对文本进行加权词向量表示;以门控循环单元为基础,将批标准化技术和线性整流激活函数相结合并添加恒等映射,从而构建IMGRU模型;将双向IMGRU作为问答模型的语义抽取单元,引入注意力机制和集束搜索算法,实现自动问答。实验结果表明,所提方法比现有方法BLEU、ROUGE-L分别平均提高18.87%、4.35%。
关键词:问答模型, 门控循环单元神经网络, 恒等映射, 注意力机制, 集束搜索算法