典型文献
基于最小不满足核的随机森林局部解释性分析
文献摘要：
随着机器学习在安全关键领域的应用愈加广泛,对于机器学习可解释性的要求也愈加提高.可解释性旨在帮助人们理解模型内部的运作原理以及决策依据,增加模型的可信度.然而,对于随机森林等机器学习模型的可解释性相关研究尚处于起步阶段.鉴于形式化方法严谨规范的特性以及近年来在机器学习领域的广泛应用,提出一种基于形式化和逻辑推理方法的机器学习可解释性方法,用于解释随机森林的预测结果.即将随机森林模型的决策过程编码为一阶逻辑公式,并以最小不满足核为核心,提供了关于特征重要性的局部解释以及反事实样本生成方法.多个公开数据集的实验结果显示,所提出的特征重要性度量方法具有较高的质量,所提出的反事实样本生成算法优于现有的先进算法;此外,从用户友好的角度出发,可根据基于反事实样本分析结果生成用户报告,在实际应用中,能够为用户改善自身情况提供建议.
文献关键词：
机器学习可解释性;特征重要性;反事实样本;形式化方法;逻辑推理
中图分类号：
作者姓名：
马舒岑;史建琦;黄滟鸿;秦胜潮;侯哲
作者机构：
国家可信嵌入式软件工程技术研究中心华东师范大学, 上海 200062;华东师范大学 软件工程学院, 上海 200062;深圳大学 计算机与软件学院, 广东 深圳 518060;School of Information and Communication Technology, Griffith University, Brisbane 4111, Australia
文献出处：
引用格式：
[1]马舒岑;史建琦;黄滟鸿;秦胜潮;侯哲-.基于最小不满足核的随机森林局部解释性分析)[J].软件学报,2022(07):2447-2463
A类：
机器学习可解释性
B类：
局部解,全关,关键领域,加提,助人,解模,决策依据,可信度,机器学习模型,形式化方法,学习领域,逻辑推理,推理方法,可解释性方法,随机森林模型,决策过程,一阶逻辑,特征重要性,反事实样本,样本生成,生成方法,公开数据集,重要性度量,生成算法,用户友好,样本分析,结果生成
AB值：
0.288483
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
