典型文献
针对黑盒智能语音软件的对抗样本生成方法
文献摘要：
随着深度学习技术的成熟, 智能语音识别软件获得了广泛的应用, 存在于智能软件内部的各种深度神经网络发挥了关键性的作用. 然而, 最近的研究表明: 含有微小扰动的对抗样本会对深度神经网络的安全性和鲁棒性构成极大威胁. 研究人员通常将生成的对抗样本作为测试用例输入到智能语音识别软件中, 观察对抗样本是否会让软件产生错误判断, 从而采取防御方法来提高智能软件安全性和鲁棒性. 在对抗样本的生成中, 黑盒智能语音软件在生活中较为常见, 具有实际的研究价值, 而现有的生成方法却存在一定的局限性. 为此, 针对黑盒智能语音软件,提出了一种基于萤火虫算法和梯度评估方法的目标对抗样本生成方法, 即萤火虫-梯度对抗样本生成方法. 针对设定的目标文本, 在原始的音频样本中不断加入干扰, 根据当前对抗样本的文本内容与目标文本之间的编辑距离, 选择使用萤火虫算法或梯度评估方法来优化对抗样本, 最终生成目标对抗样本. 为了验证方法的效果, 在常用的语音识别软件上, 使用公共语音数据集、谷歌命令数据集和LibriSpeech数据集这3种不同类型的语音数据集进行了实验评估, 并寻找志愿者进行对抗样本的质量评估. 实验表明, 提出的方法能有效提高目标对抗样本生成的成功率,例如针对DeepSpeech语音识别软件, 在公共语音数据集上生成对抗样本的成功率相比对比方法提升了13％.
文献关键词：
智能软件;语音识别;对抗样本;萤火虫算法;梯度评估方法
中图分类号：
作者姓名：
袁天昊;吉顺慧;张鹏程;蔡涵博;戴启印;叶仕俊;任彬
作者机构：
水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 211100
文献出处：
引用格式：
[1]袁天昊;吉顺慧;张鹏程;蔡涵博;戴启印;叶仕俊;任彬-.针对黑盒智能语音软件的对抗样本生成方法)[J].软件学报,2022(05):1569-1586
A类：
梯度评估方法,DeepSpeech
B类：
黑盒,对抗样本生成,生成方法,深度学习技术,智能语音识别,智能软件,深度神经网络,小扰动,大威,测试用例,错误判断,防御方法,高智能,软件安全性,在生活中,萤火虫算法,音频,文本内容,内容与目标,编辑距离,终生,验证方法,共语,语音数据,命令,LibriSpeech,实验评估,质量评估,上生,生成对抗,比方
AB值：
0.220398
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
