《计算机技术与发展杂志》发表论文赏析
作者:万飞
摘要:针对目前神经机器翻译模型仅依赖平行语料训练而无法充分挖掘深层语言知识的问题,提出一种基于情感语义增强编解码的神经机器翻译方法,旨在通过引入额外的情感语义,提高模型对语言深层次信息的理解能力。 首先,利用 word2vec 技术获取语料中所有单词的词嵌入,将其输入到一个融合模型中进行训练。 该融合模型结合了基于 GRU 和文档嵌入的机制,以获取单词级别和文档级别的情感语义表征;其次,在情感融合阶段,采用加权公式将单词级别和文档级别的情感语义有机地融合,形成更为综合的情感语义表征;最后,将此表征与上下文语义表征按位相加,以全面引入情感信息,并将其作为输入传递到机器翻译模型的编码器和解码器中。 在多个基准数据集上的实验显示,相较于传统的 Transformer 模型,该方法在 IWSLT 数据集上性能显著提升,BLEU 值增加 1. 3 至 1. 62。 在 WMT 数据集上也取得良好性能,证实了融合情感语义在机器翻译中的有效性。
关键词:情感语义;增强编解码;神经机器翻译;Transformer;平行语料