基于强化语义的中文广告文本识别技术研究

来源：计算机技术与发展杂志2021年第03期北京时间：

作者：赵伟;邓叶勋;赵建强;'*;李文瑞;韩冰;欧荣安

单位：1. 广州市刑事科学技术研究所,广东 广州 510030;2. 厦门市美亚柏科信息股份有限公司,福建 厦门 361008;3. 西安电子科技大学,陕西 西安 710071

摘要：互联网是广告推广的重要媒介,但是低质、诈骗、违法等违规广告也大量充斥其中,严重污染网络空间,因此,实现恶意广告的有效甄别对构建安全清朗的网络环境意义重大。 针对各类违法违规中文广告内容的识别需求, 利用 Bert(bidirectional encoder representation from transformers) 和 Word2vec 分别提取文本字粒度和词粒度嵌入特征, 使用 CNN (convolutional neural networks)网络对 Bert 高层特征做深层抽取,同时将词粒度特征向量输入到双向 LSTM( long shortterm memory)网络提取全局语义,并采用 Attention 机制对语义特征强化,将强化特征和 Bert 字粒度特征进行融合, 充分利用动态词向量和静态词向量的语义表征优势, 提出一种基于强化语义的中文广告识别模型 CARES(Chinese advertisement text recognition based on enhanced semantic)。 在真实的社交聊天文本数据集上的实验表明,与使用卷积神经网络、循环神经网络等文本分类模型相比, CARES 模型分类性能最优,能更加精确识别社交聊天文本中的广告内容,模型识别的正确率达到 97.73% 。

关键词：广告文本分类;语义强化;特征融合;预训练;注意力机制