典型文献
基于伪孪生网络双层优化的对比学习
文献摘要：
目前,基于伪孪生网络的对比学习算法使用各种组件以获得最优学生网络,但忽略教师网络在下游任务中的表现,因此,文中提出基于伪孪生网络双层优化的对比学习,促进学生网络和教师网络相互学习,获得最优教师网络.双层优化策略包括基于近邻优化的学生网络优化策略和基于随机梯度下降的教师网络优化策略.基于近邻优化的学生网络优化策略让教师网络成为约束项,帮助学生网络更好地向教师网络学习.基于随机梯度下降的教师网络优化策略求解近似教师网络,梯度更新教师网络.在5个数据集上的实验表明,文中算法取得较高的k-NN(k=1)分类精度和线性分类精度,特别在批次大小较小时,优势较大.
文献关键词：
对比学习;双层优化;学生网络;近邻优化;教师网络;随机梯度下降
中图分类号：
作者姓名：
陈庆宇;季繁繁;袁晓彤
作者机构：
南京信息工程大学 自动化学院 南京 210044;南京信息工程大学 数字取证教育部工程研究中心 南京210044;南京信息工程大学 江苏省大数据分析技术重点实验室 南京210044;南京信息工程大学 计算机学院 南京 210044
文献出处：
引用格式：
[1]陈庆宇;季繁繁;袁晓彤-.基于伪孪生网络双层优化的对比学习)[J].模式识别与人工智能,2022(10):928-938
A类：
B类：
伪孪生网络,双层优化,对比学习,学生网络,教师网络,互学习,近邻优化,网络优化,随机梯度下降,约束项,网络学习,新教师,NN,分类精度
AB值：
0.159256
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
