基于相对熵和余弦相似度的并行SVM算法

来源：计算机集成制造系统杂志2024年第9期北京时间：

作者：毛伊敏, 郭斌斌, 易见兵, 陈志刚

单位：1.江西理工大学信息工程学院2.中南大学计算机学院

摘要：针对大数据环境下并行支持向量机(SVM)算法存在子集分布偏差大,并行效率低以及过滤非支持向量不准确等问题,提出了基于相对熵和余弦相似度的并行SVM算法(RC-PSVM)。该算法首先提出基于相对熵的数据划分策略(DPRE),平衡当前子集和原始数据集的相对熵,划分样本到适合的子集,降低子集分布偏差;然后提出基于余弦相似度的冗余层级检测策略(CS-RLDS),计算相邻层局部SVM之间法向量的余弦相似度,比较设定的阈值与相似度,识别并停止冗余层级,提高了并行效率;最后提出非支持向量过滤策略 (NSVF),结合样本到多个局部支持向量模型决策边界的距离,计算支持向量相似度来识别非支持向量,解决了过滤非支持向量不准确的问题。实验表明,RC-PSVM算法的分类效果更佳,且在大数据下的运行效率更高。

关键词：大数据,MapReduce框架,并行支持向量机,相对熵,余弦相似度

基金资助：国家自然科学基金资助项目(41562019);科技创新2030-“新一代人工智能”重大资助项目(2020AAA0109605)。