基于森林优化特征选择算法的改进研究

来源：软件学报杂志2018年第9期北京时间：

作者：初蓓,李占山,张梦林,于海鸿

单位：初蓓，吉林大学 计算机科学与技术学院, 吉林 长春 130012;符号计算与知识工程教育部重点实验室(吉林大学), 吉林 长春 13001211,李占山，吉林大学 计算机科学与技术学院, 吉林 长春 130012;符号计算与知识工程教育部重点实验室(吉林大学), 吉林 长春 13001202,张梦林，吉林大学 计算机科学与技术学院, 吉林 长春 130012;符号计算与知识工程教育部重点实验室(吉林大学), 吉林 长春 13001203,于海鸿，吉林大学 计算机科学与技术学院, 吉林 长春 130012;符号计算与知识工程教育部重点实验室(吉林大学), 吉林 长春 13001204

摘要：在分类中，特征选择一直是一个重要而又困难的问题.最近的研究表明，森林优化特征选择算法（FSFOA）具有更好的分类性能及较好的维度缩减能力.然而，初始化阶段的随机性、更新机制上的局限性及局部播种阶段新树的劣质性严重限制了该算法的分类性能和维度缩减能力.该文采用一种新的初始化策略和更新机制，并在局部播种阶段加入贪婪策略，形成特征选择算法IFSFOA，在最大化分类性能的同时，最小化特征个数.实验阶段，IFSFOA使用SVM，J48和KNN分类器指导学习过程，通过机器学习数据库UCI上的小维、中维、高维数据集进行测试.实验结果表明：与FSFOA相比，IFSFOA在分类性能和维度缩减上均有明显提高.将IFSFOA算法与近几年提出的比较高效的特征选择方法进行对比，不论是在准确率，还是在维度缩减上，IFSFOA仍具有很强的竞争力.

关键词：IFSFOA;初始化;更新机制;贪婪策略;特征选择

基金资助：国家自然科学基金（61170314，61272208）；吉林省自然科学基金（20140101200JC）