典型文献
结合注意力机制与几何信息的特征融合框架
文献摘要：
不平衡问题在现实世界中普遍存在,而不平衡数据的分布不平衡性会严重影响模型的性能.不平衡数据通常从两方面影响模型性能:一方面是数量上的不平衡导致多数类的数据对参数有更多的更新,导致模型更加偏向多数类;另一方面是少数类样本特别少,多样性不足从而导致模型表征能力不足.针对上述问题,提出了一个结合注意力机制与几何信息的特征融合框架.具体而言,该模型首先通过预训练使模型学习数据的语义信息和判别性信息,并结合注意力机制发掘模型对不同类别数据的关注点.在第二阶段,模型通过几何信息挖掘边界特征,并且结合第一阶段得到的注意力权重对边界特征进行融合,从而对少数类的数据进行补充.基于长尾CIFAR10,CIFAR100和KDDCup99数据集的实验结果表明,所提的结合注意力机制与几何信息的特征融合框架能够有效提升对不平衡数据的分类性能,并且对于不同类型的数据,包括图像数据和结构化数据,都能有效提高分类性能.
文献关键词：
不平衡数据;特征融合;深度学习;注意力机制;几何信息
中图分类号：
作者姓名：
董奇达;王喆;吴松洋
作者机构：
华东理工大学信息科学与工程学院 上海200237;公安部第三研究所 上海201204
文献出处：
引用格式：
[1]董奇达;王喆;吴松洋-.结合注意力机制与几何信息的特征融合框架)[J].计算机科学,2022(05):129-134
A类：
KDDCup99
B类：
注意力机制,几何信息,特征融合,融合框架,不平衡问题,现实世界,不平衡数据,分布不平衡,不平衡性,影响模型,数据通,模型性能,少数类,模型表征,表征能力,预训练,模型学习,学习数据,语义信息,判别性,制发,别数,关注点,第二阶段,信息挖掘,边界特征,第一阶段,注意力权重,长尾,CIFAR100,分类性能,图像数据,结构化数据
AB值：
0.38904
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
