非均衡加权随机梯度下降SVM在线算法

来源：计算机科学与探索杂志2017年第10期北京时间：

作者：鲁淑霞，周谧，金钊

单位：河北大学 数学与信息科学学院 河北省机器学习与计算智能重点实验室，河北 保定 071002

摘要：随机梯度下降（stochastic gradient descent，SGD）方法已被应用于大规模支持向量机（support vector machine，SVM）训练，其在训练时采取随机选点的方式，对于非均衡分类问题，导致多数类点被抽取到的概率要远远大于少数类点，造成了计算上的不平衡。为了处理大规模非均衡数据分类问题，提出了加权随机梯度下降的SVM在线算法，对于多数类中的样例被赋予较小的权值，而少数类中的样例被赋予较大的权值，然后利用加权随机梯度下降算法对SVM原问题进行求解，减少了超平面向少数类的偏移，较好地解决了大规模学习中非均衡数据的分类问题。

关键词：随机梯度下降（SGD）,权,非均衡数据,大规模学习,支持向量机（SVM）