基于prompt tuning的中文文本多领域情感分析研究

来源：计算机工程与科学杂志2024年第1期北京时间：

作者：赵文辉, 吴晓鸰, 凌捷, HOON Heo

单位：1.广东工业大学计算机学院，广东 广州 510006；2.三星电机，韩国 水原 16674

摘要：不同领域的情感文本表达方式不一样，通常需要为各个领域训练相应的情感分析模型。针对无法用一个模型进行高效多领域情感分析的问题，提出了基于提示微调(prompt tuning)的多领域文本情感分析方法MSAPT。借助hard prompt，指示情感文本的所属领域和待选的情感标签，调动不同领域情感分析相关的知识，再为情感分析预训练一个统一的 “通才模型”，在下游的各领域文本学习中，保持模型冻结，通过prompt tuning使模型学习到下游各领域情感文本的特征。MSAPT仅需保存一个模型和一些参数量远远小于模型的prompt，实现了多领域情感分析。在多个属于不同领域的情感文本数据集上进行实验，结果表明仅进行prompt tuning时，MSAPT效果优于模型微调(model tuning)的。最后，分别对适应特定领域的prompt tuning、hard prompt、soft prompt的长度和中间训练数据集的大小进行消融实验，从证明其对情感分析效果的影响。

关键词：多领域情感分析,提示微调,预训练语言模型,T5,

基金资助：广东省国际科技合作领域项目(2019A050513010); 工业装备质量大数据工业和信息化部重点实验室开放课题（2021-1EQBD-02）