基于随机森林的自适应特征选择算法

来源：计算机技术与发展杂志2018年第09期北京时间：

作者：刘凯;郑山红;蒋权;赵天傲

摘要：为了解决传统的随机森林算法在随机特征选择时，导致少数比较重要的特征变量被过滤掉的问题，以及没有考虑特征变量相关性对预测应变量准确性带来的影响，提出了一种基于随机森林的自适应特征选择算法 SAＲFFS。该算法首先利用卡方检验样本间关联程度后自助采样，并设计出一种特征对类代表强弱程度的计算方法;然后引入自适应稀疏约束机制 Group LASSO 优化特征的选择;最后在 Spark 分布式计算平台利用 UCI 数据集进行实验，结果表明，相比传统的 RF算法，SARFFS 算法在特征子集选择上具有更好的性能，在 F 1 上提升将近 9%。从最终排名靠前的重要特征分析，该算法能够考虑特征间相关性，对预测结果确实有影响，并有效地提高了随机属性权值的可靠性和稳定性。

关键词：随机森林;自适应;特征选择;Group LASSO 方法