典型文献
基于自注意力的自监督深度聚类算法
文献摘要:
近年来,基于联合训练的深度聚类方法,如DEC(Deep Embedding Clustering)和DDC(Deep Denoising Clustering)算法,使基于特征提取的图像聚类取得了很多新进展,带来了聚类性能的突破,而且特征提取环节对后续聚类任务有直接影响.但是,这些方法的泛化能力较差,在不同数据集使用不同的网络结构,聚类性能相比分类性能仍有很大的提升空间.为此,文中提出了一种基于自注意力的自监督深度聚类方法(Self-attention Based Self-supervised Deep Clustering,SADC).首先设计一个深度卷积自编码器用于提取特征,并且用带噪声的输入数据训练该网络来增强模型的鲁棒性;其次引入自注意力机制,辅助网络捕获对聚类有用的信息;最后编码器部分结合K-means算法形成一个深度聚类器,用于进行特征表示和聚类分配,通过迭代更新网络参数来提高聚类精度和网络的泛化能力.在6个图像数据集上验证所提聚类算法的性能,并与深度聚类算法DEC,DDC等进行比较.实验结果表明,SADC能提供令人满意的聚类结果,而且聚类性能与DEC和DDC相当.总之,统一的网络结构在保证聚类精度的同时降低了深度聚类算法的复杂度.
文献关键词:
深度卷积自编码器;图像聚类;特征表示;自注意力;计算复杂度
中图分类号:
作者姓名:
韩洁;陈俊芬;李艳;湛泽聪
作者机构:
河北大学数学与信息科学学院河北省机器学习与计算智能重点实验室 河北 保定071002;北京师范大学珠海分校应用数学学院 广东 珠海 519087
文献出处:
引用格式:
[1]韩洁;陈俊芬;李艳;湛泽聪-.基于自注意力的自监督深度聚类算法)[J].计算机科学,2022(03):134-143
A类:
SADC,深度卷积自编码器
B类:
自监督,深度聚类,聚类算法,联合训练,聚类方法,DEC,Deep,Embedding,Clustering,DDC,Denoising,图像聚类,取环,泛化能力,分类性能,提升空间,Self,attention,Based,supervised,器用,提取特征,输入数据,数据训练,增强模型,自注意力机制,means,特征表示,迭代更新,新网,网络参数,聚类精度,图像数据集,令人满意,总之,计算复杂度
AB值:
0.277298
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。