典型文献
基于信息融合策略的卷积神经网络剪枝方法
文献摘要:
针对现有结构化剪枝方法过度依赖预训练模型和直接丢弃不重要卷积核的信息造成了明显的性能下降的问题,提出一种基于信息融合策略的卷积神经网络剪枝方法(APBM),以较小精度损失降低模型复杂度、实现模型加速.首先APBM方法引入信息熵概念以表示卷积核的相似度分布,并使用分布之间的相对熵动态衡量卷积核的重要程度;同时在训练的前向传播中采用信息融合策略:融合非重要卷积核信息与重要卷积核信息,以减少剪枝过程中的信息损失和提高剪枝的容错性.在CIFAR10和CIFAR100数据集上进行验证和对比实验.实验结果表明:相对于HRank、Polarization、SWP等剪枝算法,APBM方法训练时间更少、模型压缩率更高,精度保持最佳.在基于CIFAR10的剪枝任务中,对VGG16和ResNet56分别剪掉92.74%和48.84%的参数量;在基于CIFAR100的剪枝任务中,对VGG16和ResNet56分别剪掉72.91%和44.18%的参数量.
文献关键词:
结构化剪枝;信息熵;模型复杂度;模型加速;信息融合
中图分类号:
作者姓名:
曲海成;张雪聪;王宇萍
作者机构:
辽宁工程技术大学 软件学院,辽宁 葫芦岛 125105
文献出处:
引用格式:
[1]曲海成;张雪聪;王宇萍-.基于信息融合策略的卷积神经网络剪枝方法)[J].计算机工程与应用,2022(24):125-133
A类:
APBM,HRank,SWP
B类:
信息融合,融合策略,神经网络剪枝,剪枝方法,结构化剪枝,预训练模型,丢弃,不重,卷积核,性能下降,精度损失,模型复杂度,模型加速,信息熵,相对熵,重要程度,信息损失,容错性,CIFAR100,Polarization,剪枝算法,方法训练,训练时间,模型压缩,压缩率,VGG16,ResNet56,剪掉,参数量
AB值:
0.321097
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。