基于UniLM模型的学术文摘观点自动生成研究

来源：图书情报工作杂志2023年第2期北京时间：

作者：曾江峰,刘园园,程征,段尧清

单位：华中师范大学信息管理学院 武汉 430079

摘要：[目的/意义] 将海量学术文本观点提取工作由人工转向机器，提高效率的同时又能够保证观点提取的准确性、客观性。[方法/过程] 使用UniLM统一语言预训练模型，训练过程中对模型进行精调，以人工标注数据集进行机器学习。将学术文摘作为长度为a的文本序列，经过机器学习，生成长度为b的句子序列（a≥b），并且作为学术论文观点句输出。[结果/结论] 研究结果表明： UniLM模型对于规范型文摘、半规范型文摘、非规范型文摘观点生成精准度分别为94.36%、77.27%、57.43%，规范型文摘生成效果最好。将机器学习模型应用于长文本观点生成，为学术论文观点生成提供一种新方法。不足之处在于本文模型依赖文摘的结构性，对非规范型文摘观点生成效果有所欠缺。

关键词：学术文摘,观点自动生成,UniLM模型,机器学习,

基金资助：本文系教育部人文社会科学青年项目“情境大数据驱动的社交媒体虚假信息识别模型与治理策略研究”（项目编号：21YJC870002）和中央高校基本科研业务费资助项目“信息交互行为与隐私保护研究”（项目编号：CCNU22QN017）研究成果之一。