典型文献
基于局部注意力图互迁移的可解释性优化方法
文献摘要：
目前,深度学习模型已被广泛部署于各个工业领域.然而,深度学习模型具有的复杂性与不可解释性已成为其应用于高风险领域最主要的瓶颈.在深度学习模型可解释性方法中,最重要的方法是可视化解释方法,其中注意力图是可视化解释方法的主要表现方式,可通过对样本图像中的决策区域进行标注,来直观地展示模型决策依据.目前已有的基于注意力图的可视化解释方法中,单一模型注意力图存在标注区域易出现标注错误而造成可视化可解释性置信度不足的问题.针对上述问题,文中提出了一种基于局部注意力图互迁移的可解释性优化方法,用于提升模型注意力图的标注准确度,展示出精准的决策区域,加强视觉层面对模型决策依据的可解释性.具体表现为:采用轻量模型构建互迁移网络结构,于单一模型层间提取特征图并进行叠加,对全局注意力图进行局部划分,使用皮尔逊相关系数对模型间对应的局部注意力图进行相似度度量,随后将局部注意力图进行正则化并结合交叉熵函数对模型注意力图进行迁移.实验结果表明,所提算法显著提升了模型注意力图标注的准确性,并分别实现了28.2％的平均下降率和29.5％的平均增长率,与最先进的算法相比,其在平均下降率方面实现了3.3％的提升.实验结果表明,所提算法能成功地找出样本图像中预测标签最相关区域,而不局限于视觉可视化区域;与现有的同类方法相比,所提方法能更准确地揭示原始CNN模型的决策依据.
文献关键词：
可解释性;注意力图;区域划分;相似度;互迁移
中图分类号：
作者姓名：
成科扬;王宁;崔宏纲;詹永照
作者机构：
江苏大学计算机科学与通信工程学院 江苏 镇江212013
文献出处：
引用格式：
[1]成科扬;王宁;崔宏纲;詹永照-.基于局部注意力图互迁移的可解释性优化方法)[J].计算机科学,2022(05):64-70
A类：
B类：
局部注意力,注意力图,互迁移,深度学习模型,工业领域,不可解释性,模型可解释性,可解释性方法,解释方法,表现方式,模型决策,决策依据,图存,置信度,展示出,轻量模型,提取特征,特征图,全局注意力,皮尔逊相关系数,相似度度量,正则化,交叉熵函数,法显,图标,最先,区域划分
AB值：
0.225235
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
