基于 BERT-BiGRU 集成学习的情感语义识别

来源：计算机技术与发展杂志2023年第05期北京时间：

作者：游兰;';曾晗;';韩凡宇;';金红;';崔海波;';张家合;'

单位：1. 湖北大学 计算机与信息工程学院,湖北 武汉 430062;2. 湖北省软件工程工程技术研究中心,湖北 武汉 430062;3. 智慧政务与人工智能应用湖北省工程研究中心,湖北 武汉 430062;4. 湖北省教育信息化工程技术研究中心,湖北 武汉 430062

摘要：如今,在社交网络上发表评论已成为公众对社会现象表达态度和立场的主要方式。 精准识别社交文本的情感倾向性对于舆情管控、社会维稳等有重要价值。 针对传统情感识别模型大多集中于评论的表层语义挖掘,存在分类效果不佳、泛化能力有限等问题,提出了一种基于 BERT-BiGRU 多模集成学习的深层情感语义识别方法。 首先,通过 BERT 预训练模型获取评论文本的上下文语义特征表示,再结合 BiGRU 提取深层非线性特征向量,实现单模型下的最优效果;接着,为了使模型效果稳定且多方面表现均衡,基于 BERT 系列预训练模型训练出表现优异且具有差异化的多个情感分类器;最后,利用数据扰动和投票策略的集成学习方法,实现各模型深层特征的充分融合。 实验结果显示:BERT-BiGRU 模型相较于其他传统模型,在两个公开数据集( COV19 和 ChnSenti)上具有更优的情感识别效果。

关键词：情感识别;BERT 预训练模型;双向门控循环单元;集成学习;深层特征