改进的Shark-search算法在网络采集中的应用

来源：计算机技术与发展杂志2017年第08期北京时间：

作者：张玲;祁玉娟;姜华

摘要：Shark-search是一种依据链接价值的高低进行优先采集的算法,用于主题信息采集系统时由于只考虑了网页文本和链接锚文本与主题的相关性而忽略了网页的组织结构特性,在抓取有较多噪音链接的网页时效果欠佳.基于网页组织结构特性的分析研究,提出了一种基于网页主题分块的Shark-search算法.该算法在经典Shark-search算法的基础上依据网页组织结构根据网页布局标签对页面内容进行分块,从网页,块和链接三个层面与主题的相关性得到链接的综合价值,因而具有自学习功能,能统计学习与主题相关性较大的块特征,并在发生主题漂移的时候具有自调整功能,给予主题相关性较大的父页面上的链接更多被抓取的机会.采集实验结果表明,所提出的算法在经典Shark-search的基础上能较好地改进主题信息采集的查准率,能够更灵活地针对实际的Web资源状况进行自调整.

关键词：Shark-search算法;网页分块;Web信息搜集;链接价值;主题漂移