基于概率模型检查的树模型公平性验证方法

来源：软件学报杂志2022年第7期北京时间：

作者：王艳，侯哲，黄滟鸿，史建琦，张格林

单位：王艳，华东师范大学 软件工程学院, 上海 200062;国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 20006211,侯哲，School of Information and Communication Technology, Griffith University, Brisbane 4111, Australia02,黄滟鸿，华东师范大学 软件工程学院, 上海 200062;国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 20006203,史建琦，华东师范大学 软件工程学院, 上海 200062;国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 20006204,张格林，华东师范大学 软件工程学院, 上海 200062;国家可信嵌入式软件工程技术研究中心(华东师范大学), 上海 20006205

摘要：如今,越来越多的社会决策借助机器学习模型给出,包括法律决策、财政决策等等.对于这些决策,算法的公平性是极为重要的.事实上,在这些环境中引入机器学习的目的之一,就是为了规避或减少人类在决策过程中存在的偏见.然而,数据集常常包含敏感特征,或可能存在历史性偏差,会使得机器学习算法产生带有偏见的模型.由于特征选择对基于树的模型具有重要性,它们容易受到敏感属性的影响.提出一种基于概率模型检查的方法,以形式化验证决策树和树集成模型的公平性.将公平性问题转换为概率验证问题,为算法模型构建PCSP#模型,并使用PAT模型检查工具求解,以不同定义的公平性度量衡量模型公平性.基于该方法开发了FairVerify工具,并在多个基于不同数据集和复合敏感属性的分类器上验证了不同的公平性度量,展现了较好的性能.与现有的基于分布的验证器相比,该方法具有更高的可扩展性和鲁棒性.

关键词：公平性验证;决策树集成模型;概率模型检查;可信机器学习

基金资助：国家重点研发计划(2019YFB2102602)