可解释人工智能研究综述

来源：计算机工程与应用杂志2023年第14期北京时间：

作者：赵延玉, 赵晓永, 王磊, 王宁宁

单位：1.北京信息科技大学 信息系统研究所，北京 100129；2.北京信息科技大学 北京材料基因工程高精尖创新中心，北京 100129

摘要：随着机器学习和深度学习的发展，人工智能技术已经逐渐应用在各个领域。然而采用人工智能的最大缺陷之一就是它无法解释预测的依据。模型的黑盒性质使得在医疗、金融和自动驾驶等关键任务应用场景中人类还无法真正信任模型，从而限制了这些领域中人工智能的落地应用。推动可解释人工智能（explainable artificial intelligence，XAI）的发展成为实现关键任务应用落地的重要问题。目前，国内外相关领域仍缺少有关可解释人工智能的研究综述，也缺乏对因果解释方法的关注以及对可解释性方法评估的研究。从解释方法的特点出发，将主要可解释性方法分为三类：独立于模型的方法、依赖于模型的方法和因果解释方法，分别进行总结分析，对解释方法的评估进行总结，列举出可解释人工智能的应用，讨论当前可解释性存在的问题并进行展望。

关键词：可解释性,人工智能,机器学习,深度学习,评估