基于Spark的FP_Growth算法的并行与优化

来源：计算机工程与应用杂志2018年第13期北京时间：

作者：石陆魁1，张 欣1，师胜利2

单位：1.河北工业大学 计算机科学与软件学院，天津 300401；2.河北师范大学 信息技术学院，石家庄 050024

摘要：PFP_Growth算法是FP_Growth算法在Hadoop平台上基于MapReduce的并行化，该算法在分组过程中没有考虑负载均衡问题，导致各个节点完成任务时间不一致，甚至相差很大，从而降低了算法的执行效率。为了提高算法的执行效率，提出了一种基于Spark的RPFP算法，该算法对PFP_Growth算法在均衡分组和降低时间复杂度两方面进行优化，通过把负载大的项放在负载总和最小的组里面实现均衡分组，通过在链头表结构中加入一张哈希表达到快速访问元素地址的目的，从而降低时间复杂度。实验结果表明，RPFP通过优化PFP算法，有效提高了频繁项集的挖掘效率。

关键词：FP_Growth算法,频繁项集挖掘,负载均衡,链头表结构,Spark