采用动态相关度权重的特征选择算法

来源：计算机工程与应用杂志2024年第4期北京时间：

作者：许华杰, 刘冠霆, 张品, 秦远卓

单位：1. 广西大学 计算机与电子信息学院，南宁 530004 ；2. 广西大学 广西多媒体通信与网络技术重点实验室，南宁 530004；3. 北部湾港防城港码头有限公司，广西 防城港 538001；4. 广西大学 土木建筑工程学院，南宁 530004

摘要：基于互信息的特征选择算法在考虑候选特征提供的新分类信息时，通常忽略了候选特征的加入会使得已选特征和类标签的相关性发生变化而带来额外的新增信息量，以及在计算冗余信息时采用累加求和的形式可能导致低估候选特征的冗余程度。针对以上问题，提出动态相关度权重的定义，以更全面地考虑候选特征带来的新信息量成分；提出改进冗余项的定义，采用取最大值和归一化策略，以解决传统算法存在的低估冗余问题；在此基础上提出一种采用动态相关度权重的特征选择算法（feature selection using dynamic relevance weight，FSDRW）。选取五种当前主流的基于互信息的过滤式特征选择算法进行对比实验，在来自加州大学尔湾分校UCI和亚利桑那州立大学ASU的机器学习测试数据集上的实验表明，所提出的算法在分类准确率及综合性能方面具有较好的表现。最后将所提出算法应用于广西某水库工程的微震、爆破信号识别中，算法选取出的特征用于微震信号识别可达到98.86%的分类准确率，验证了算法在实际应用中的有效性。

关键词：特征选择, 互信息, 信息熵, 动态相关度权重