《南京信息工程大学学报·自然科学版杂志》发表论文赏析
作者:但志平,鲁雨洁,余肖生,李琳,李碧涛,董方敏
单位:但志平,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002,鲁雨洁,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002,余肖生,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002,李琳,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002,李碧涛,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002,董方敏,三峡大学 水电工程智能视觉监测湖北省重点实验室, 宜昌, 443002;三峡大学 计算机与信息学院, 宜昌, 443002
摘要:在处理精细化情感分类任务时,现有情感分析方法通常采用扁平化的分类策略,未能充分考虑情感本身的层级关系,导致分类精度受限.为此,本文提出一种基于分层思想的精细化文本情感分类方法.通过将具有相同基础情感含义的细粒度标签归类为同一粗粒度类别,构建层次化的情感标签体系,从而增强模型对情感结构的理解能力.在模型设计上,采用RoBERTa(Robustly optimized BERT Approach)模型的不同Transformer层输出,分别提取低层次和高层次语义特征,以支持粗粒度与细粒度分类器的训练.在基于多任务学习的分层分类策略中,粗分类任务辅助细分类任务,从而提高分类的精度和泛化性.由粗到细的分层分类策略中,粗分类和细分类任务并行进行,每个细分类器独立计算损失,然后结合粗分类的先验信息优化信息选择,实现情感识别的逐步细化.最终,通过设定概率阈值来融合两种策略的优势,进一步提升分类性能.实验结果表明,在GoEmotions和Empathetic Dialogues数据集上,两种策略在F1值和准确率上均超越基线模型.而最终的融合技术又使得性能进一步提升,在两个数据集上的准确率分别达到64.6%和59.4%,优于现有方法.
关键词:文本情感分类;BERT模型;注意力机制;深度学习;多任务学习;层次分类
基金资助:国家自然科学基金“NSFC-新疆联合基金”(U1703261)