基于Pareto支配策略的距离度量特征选择算法

来源：计算机技术与发展杂志2025年第05期北京时间：

作者：罗雅欣;潘晓英;梁家铭;李航凯;王燕;*

单位：1. 西安邮电大学 计算机学院,陕西 西安 710121;2. 西安邮电大学 陕西省网络数据分析与智能处理重点实验室,陕西 西安 710121;3. 西安邮电大学 理学院,陕西 西安 710121

摘要：针对高维小样本数据不均衡的特性,且在构建预测模型时训练时间长、性能低等问题,提出了一种基于 Pareto 支配策略的距离度量特征选择算法(DMPD),该算法旨在优化预测模型的构建过程,有效减少计算成本。 首先,通过 Fisher Score 算法评估每个特征与类别的相关性,并按得分排序;在此基础上,针对不同特征维度下的筛选结果,通过分类效果选择出最佳的特征维度,完成特征预选。 其次,运用余弦相似度来衡量特征间的相似性,并合理运用帕累托支配理论,对于类别相关性最高的特征逐一去除被其帕累托支配的其他特征,从而有效去除冗余特征,获得精简高效的特征子集。 实验结果显示,在六个不同的数据集上,DMPD 方法不仅在相同特征集维数条件下显著提升了分类性能,相较于仅使用 Fisher Score 或 MIC(互信息系数)算法表现出更好的效果,而且与 FCBF-MIC(快速相关特征选择-互信息系数)算法相比,DMPD不仅提高了计算效率,还能在更小的特征维度下获得更佳的分类能力,证明了其在解决高维小样本数据不均衡问题上的有效性。

关键词：高维小样本;特征选择;距离度量;帕累托支配理论;最大相关最小冗余