典型文献
双标签监督的几何约束对抗训练
文献摘要:
近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模型无法充分挖掘样本间的几何关系来学习更鲁棒的模型,以便更好地防御对抗攻击.因此,重点研究如何在对抗训练过程中保持样本间的几何结构稳定性,达到提升模型鲁棒性的目的.具体而言,在对抗训练中,设计了一种新的几何结构约束方法,其目的是保持自然样本与对抗样本的特征空间分布一致性.此外,提出了一种基于双标签的监督学习方法,该方法同时采用自然样本和对抗样本的标签对模型进行联合监督训练.最后,分析了双标签监督学习方法的特性,试图从理论上解释对抗样本的工作机理.多个基准数据集上的实验结果表明:相比于已有方法,该方法有效地提升了模型的鲁棒性且保持了较好的泛化精度.相关代码已经开源:.
文献关键词:
深度学习;模型鲁棒性;对抗训练;几何约束;双标签监督
中图分类号:
作者姓名:
曹刘娟;匡华峰;刘弘;王言;张宝昌;黄飞跃;吴永坚;纪荣嵘
作者机构:
厦门大学 信息学院 人工智能系 媒体分析与计算实验室, 福建 厦门 361005;National Institute of Informatics, Tokyo 101-8430, Japan;Pinterest, Seattle, WA 98101, USA;北京航空航天大学 人工智能研究院, 北京 100191;腾讯优图实验室, 上海 200030
文献出处:
引用格式:
[1]曹刘娟;匡华峰;刘弘;王言;张宝昌;黄飞跃;吴永坚;纪荣嵘-.双标签监督的几何约束对抗训练)[J].软件学报,2022(04):1218-1230
A类:
双标签监督
B类:
几何约束,对抗训练,对抗样本攻击,训练策略,模型鲁棒性,成模,泛化能力,训练方法,立地,训练样本,几何关系,对抗攻击,训练过程,几何结构,结构稳定性,结构约束,约束方法,特征空间,分布一致性,监督学习,联合监督,工作机理,基准数据集,代码,开源
AB值:
0.300969
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。