典型文献
预测不确定性与对抗鲁棒性的关系研究
文献摘要：
对抗鲁棒性指的是模型抵抗对抗样本的能力,对抗训练是提高模型对抗鲁棒性的一种常用方法.然而,对抗训练会降低模型在干净样本上的准确率,这种现象被称为accuracy-robustness problem.由于在训练过程中需要生成对抗样本,这个过程显著增加了网络的训练时间.研究了预测不确定性与对抗鲁棒性的关系,得出以下结论:预测不确定性越大,则模型对抗鲁棒性越大.结论解释为:用交叉熵训练得到的模型边界并不完美,为了使得交叉熵最小化,可能使得一些类的分类面变得狭隘,导致这些类的样本容易受到对抗攻击.如果在训练模型的同时最大化模型输出的信息熵,可以使得模型的分类面更加平衡,模型分类面边界与每一类数据的距离尽可能一样远,从而提高攻击难度.在此基础上,提出一种新的增强对抗鲁棒性的方法,通过增加模型预测的不确定性,以达到提高鲁棒性的目的;它在保证模型准确率的同时,使得模型预测的信息熵达到更大.在MNIST、CIFAR-10和CIFAR-100数据集上的大量实验和简化的模型推导,都证实了对抗鲁棒性随模型预测不确定性的增加而增加的统计关系.该方法也可结合对抗训练,进一步提高了模型的对抗鲁棒性.
文献关键词：
对抗样本;不确定性;对抗防御;深度学习;对抗鲁棒性
中图分类号：
作者姓名：
陈思宏;沈浩靖;王冉;王熙照
作者机构：
深圳大学 计算机与软件学院, 广东 深圳 518060;深圳大学 数学与统计学院, 广东 深圳 518060;广东省智能信息处理重点实验室(深圳大学), 广东 深圳 518060
文献出处：
引用格式：
[1]陈思宏;沈浩靖;王冉;王熙照-.预测不确定性与对抗鲁棒性的关系研究)[J].软件学报,2022(02):524-538
A类：
B类：
预测不确定性,对抗鲁棒性,对抗样本,对抗训练,常用方法,干净,accuracy,robustness,problem,训练过程,生成对抗,训练时间,交叉熵,练得,不完美,狭隘,对抗攻击,训练模型,模型输出,信息熵,模型分类,高鲁棒性,模型准确率,MNIST,CIFAR,确定性的,对抗防御
AB值：
0.288701
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
