典型文献
面向图像识别的卷积神经网络鲁棒性研究进展
文献摘要：
卷积神经网络是目前人工智能领域在图像识别与处理相关应用中的关键技术之一,广泛的应用使对其鲁棒性研究的重要性不断凸显.以往对于卷积神经网络鲁棒性的研究较为笼统,且多集中在对抗鲁棒性方面.这难以更深入地研究神经网络鲁棒性的发生机制,已经不适应人工智能的发展.引入神经科学的相关研究,提出了视觉鲁棒性的概念,通过研究神经网络模型与人类视觉系统的相似性,揭示了神经网络鲁棒性的内在缺陷.回顾了近年来神经网络鲁棒性的研究现状,并分析了神经网络模型缺乏鲁棒性的原因.神经网络缺乏鲁棒性体现在其对于微小扰动的敏感性,其原因在于神经网络会更倾向于学习人类难以感知的高频信息用于计算和推理.而这部分高频信息很容易被扰动所破坏,最终导致模型出现判断错误.传统鲁棒性的研究大多关注模型的数学性质,无法突破神经网络的天然局限性.视觉鲁棒性在传统鲁棒性的概念上进行拓展.传统鲁棒性概念衡量模型对于失真变形的图像样本的辨识能力,失真样本与原始干净样本在鲁棒模型上都能保持正确的输出.视觉鲁棒性衡量模型与人类判别能力的一致性.这需要将神经科学和心理学的研究方法、成果与人工智能相结合.回顾了神经科学在视觉领域的发展,讨论了认知心理学的研究方法在神经网络鲁棒性研究上的应用.人类视觉系统在学习和抽象能力上具有优势,神经网络模型在计算和记忆速度方面强于人类.人脑的生理结构与神经网络模型的逻辑结构的差异是导致神经网络鲁棒性问题的关键因素.视觉鲁棒性的研究需要对人类的视觉系统有更深刻的理解.揭示人类视觉系统与神经网络模型在认知机制上的差异,并对算法进行有效的改进,这是神经网络鲁棒性乃至人工智能算法的主要发展趋势.
文献关键词：
卷积神经网络;图像识别;鲁棒性;对抗样本;人类视觉
中图分类号：
作者姓名：
林点;潘理;易平
作者机构：
上海交通大学网络空间安全学院,上海 200240
文献出处：
引用格式：
[1]林点;潘理;易平-.面向图像识别的卷积神经网络鲁棒性研究进展)[J].网络与信息安全学报,2022(03):111-122
A类：
B类：
图像识别,网络鲁棒性,人工智能领域,相关应用,笼统,多集,对抗鲁棒性,发生机制,入神,神经科学,人类视觉系统,内在缺陷,小扰动,频信,这部分,数学性质,失真,像样,干净,鲁棒模型,持正,类判,心理学的,认知心理学,抽象能力,人脑,生理结构,逻辑结构,示人,认知机制,人工智能算法,对抗样本
AB值：
0.212765
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
