典型文献
ReLSL:基于可靠标签选择与学习的半监督学习算法
文献摘要:
深度神经网络在众多视觉表征领域取得了显著的成功,如目标检测、识别等.然而,需要大量良好标记的数据进行训练是它们最普遍的限制之一.在实际应用中,为每一个要学习的新任务建立庞大的标记数据集是极其昂贵,甚至是不可行的.半监督深度学习,通过在有限标记数据的条件下充分挖掘大量的未标记数据信息,从而达到与监督学习相媲美的分类精度.然而,当标记数据极其稀少时,现有半监督算法的性能会受到严重影响.因此,本文提出了一种可靠标签选择与学习(Reliable Label Selection and Learning,ReLSL)算法,以解决在仅有极少量标签图像数据时半监督深度学习所面临的问题.具体地,本文首先运用无监督学习方法提取样本特征,并应用基于图的标签传染算法得到无标签样本的伪标签.而后,为了筛选出更为可靠、有更多信息的样本,本文提出了一种综合考虑样本输出均值和一致性的伪标签学习与标定策略.在获得具有扩展标签的数据集后,考虑到训练样本中引入一定比例的标签噪声无可避免,因此本文提出两种策略来训练高鲁棒半监督深度模型:标签平滑策略(Label Smoothing Strategy,LS),用以避免标签过于尖锐;均值偏移校正策略(Mean Shifting Correction Strategy,MSC),用以降低样本输出偏移风险.实验结果表明,在CNN-13、WRN-28-2及ResNet-18各种网络结构下,本文所提出的ReLSL算法在CIFAR-10/100、SVHN、STL-10和Mini-ImageNet数据集上均表现出先进的性能.特别地,本文算法在WRN-28-2网络结构下仅有10个标记数据的CIFAR-10上,相较于最新算法具有6.78%的准确率提升;在CNN-13网络下仅有100个标记数据时,可以达到目前主流半监督学习算法4000标记时的测试误差6.39±0.47%.
文献关键词:
半监督深度学习;极少标签;鲁棒性;标签传播;特征提取
中图分类号:
作者姓名:
魏翔;王靖杰;张顺利;张迪;张健;魏小涛
作者机构:
北京交通大学软件学院 北京 100044
文献出处:
引用格式:
[1]魏翔;王靖杰;张顺利;张迪;张健;魏小涛-.ReLSL:基于可靠标签选择与学习的半监督学习算法)[J].计算机学报,2022(06):1147-1160
A类:
ReLSL,伪标签学习,极少标签
B类:
标签选择,半监督学习,深度神经网络,视觉表征,目标检测,新任务,记数,昂贵,不可行,半监督深度学习,相媲美,分类精度,稀少,少时,半监督算法,Reliable,Label,Selection,Learning,极少量,图像数据,无监督学习,样本特征,无标签样本,多信息,标定策略,训练样本,定比,标签噪声,无可避免,高鲁棒,深度模型,标签平滑,Smoothing,Strategy,签过,尖锐,均值偏移,偏移校正,Mean,Shifting,Correction,MSC,WRN,ResNet,CIFAR,SVHN,STL,Mini,ImageNet,新算法,准确率提升,记时,测试误差,标签传播
AB值:
0.417914
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。