基于TextRank和自注意力的长文档无监督抽取式摘要

来源：计算机应用与软件杂志2025年第3期北京时间：

作者：邢玲, 程兵, 闫强

摘要：针对中文长文档自动文本摘要问题，提出将TextRank与自注意力相融合的两种模型：TRAI和TRAO。TRAI将基于统计共现字数得到的句子相似性同基于自注意力得到的句子相关性进行加权求和，作为TextRank边的权重参与迭代计算，对句子进行打分。TRAO利用TextRank对句子打分；利用自注意力重新表示每个句子融合整个文档信息的分布式向量，在此基础上计算句子间余弦相似度，作为TextRank边的权重参与迭代计算，给句子打分；将两种得分加权求和作为句子最终得分。两种模型均根据得分对句子进行排序得到候选摘要。为去除摘要冗余性，利用最大边界相关法（Maximal Marginal Relevance，MMR）在候选摘要中选取摘要句子。将提出的两种模型在构建的长文档上进行实验，与TextRank方法相比，所提方法在ROUGE评价指标上有显著提高。

关键词：中文长文本摘要, TextRank, 自注意力机制, 分布式向量表示, 语义信息, 融合文档信息