《计算机工程与应用杂志》发表论文赏析
作者:李洁, 孙国营, 段伊晴, 王海龙, 柳林
单位:1.内蒙古师范大学 计算机科学技术学院,呼和浩特 010020;2.澳门科技大学 国际学院,澳门 999078;3.哈尔滨工业大学 网络与信息安全技术研究中心,哈尔滨 150006;
摘要:虽然研究人员开展了丰富的多模态虚假新闻检测研究,但仍存在大型语言模型的知识幻觉问题以及跨模态语义不一致性两大挑战。为了解决上述问题,提出一种基于图数据增强与多模态特征对齐的虚假新闻检测模型GDAFMA。利用大语言模型构建新闻文档风格、信源权威性和图像描述的多维度提示模板,实现细粒度语义解构。将语义信息转换为图结构,通过图知识增强和图编码解码机制实现跨模态深度推理。设计多模态局部与全局特征对齐策略,完成语义一致性验证和综合可信度评估。在GossipCop、Weibo以及PolitiFact三个公开数据集上的实验结果表明,GDAFMA的分类准确度分别高达0.868、0.916以及0.898,远高于所有基线方法,证明所提方法能显著提升多模态虚假新闻的检测性能。
关键词:多模态虚假新闻检测,多维度提示模板,图数据增强,图编码解码,多模态特征对齐
基金资助:国家自然科学基金地区科学基金(62567004)。