人工智能系统可信性度量评估研究综述

来源：软件学报杂志2023年第8期北京时间：

作者：刘晗，李凯旋，陈仪香

单位：刘晗，华东师范大学 软件工程学院, 上海 200062;上海市高可信计算重点实验室(华东师范大学), 上海 20006211,李凯旋，华东师范大学 软件工程学院, 上海 200062;上海市高可信计算重点实验室(华东师范大学), 上海 20006202,陈仪香，华东师范大学 软件工程学院, 上海 200062;上海市高可信计算重点实验室(华东师范大学), 上海 20006203

摘要：近年来, 人工智能技术突飞猛进, 人工智能系统已经渗透到人们生活中, 成为人们生活中不可或缺的一部分. 然而, 人工智能系统需要数据训练模型, 数据扰动会对其结果造成影响. 并且随着人工智能系统业务多样化, 规模复杂化, 人工智能系统的可信性愈发受到人们的关注. 首先, 在梳理不同组织和学者提出的人工智能系统可信属性基础上, 提出人工智能系统的9个可信属性; 接着, 从数据可信性、模型可信性和结果可信性分别介绍现有的人工智能系统数据、模型、结果可信性度量方法, 设计人工智能系统可信证据收集方法. 其次, 总结当前人工智能系统的可信度量评估理论与方法. 然后, 结合基于属性的软件可信评估方法与区块链技术, 建立一个人工智能系统可信度量评估框架, 包括可信属性分解及可信证据获取方法、联邦式可信度量模型与以及基于区块链的人工智能系统可信度量评估架构. 最后, 讨论人工智能系统可信度量技术面临的机遇和挑战.

关键词：人工智能系统;可信性;度量评估

基金资助：华东师范大学-华为可信创新实验室项目(15902-412312-19214/013);上海市可信工业互联网软件协同创新中心项目