典型文献
融合弱层惩罚的卷积神经网络模型剪枝方法
文献摘要:
深度卷积神经网络的存储和计算需求巨大,难以在一些资源受限的嵌入式设备上进行部署.为尽可能减少深度卷积神经网络模型在推理过程中的资源消耗,引入基于几何中值的卷积核重要性判断标准,提出一种融合弱层惩罚的结构化非均匀卷积神经网络模型剪枝方法.使用欧式距离计算各层卷积核间的信息距离,利用各卷积层信息距离的数据分布特征识别弱层,通过基于贡献度的归一化函数进行弱层惩罚,消除各层间的差异性.在全局层面评估卷积核重要性,利用全局掩码技术对所有卷积核实现动态剪枝.在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明,与SFP、PFEC、FPGM和MIL剪枝方法相比,该方法剪枝得到的VGG16单分支、Resnet多分支、Mobilenet-v1轻量化网络模型在保证精度损失较小的情况下,有效地减少了模型参数量和浮点操作数.
文献关键词:
模型剪枝;弱层惩罚;全局掩码;欧式距离;核重要性评估
中图分类号:
作者姓名:
房志远;石守东;郑佳罄;胡加钿
作者机构:
宁波大学 信息科学与工程学院,浙江 宁波 315211
文献出处:
引用格式:
[1]房志远;石守东;郑佳罄;胡加钿-.融合弱层惩罚的卷积神经网络模型剪枝方法)[J].计算机工程,2022(05):67-73
A类:
弱层惩罚,几何中值,全局掩码,PFEC,核重要性评估
B类:
卷积神经网络模型,模型剪枝,剪枝方法,深度卷积神经网络,资源受限,嵌入式设备,行部,尽可能减少,推理过程,资源消耗,卷积核,判断标准,非均匀,欧式距离,距离计算,信息距离,各卷,卷积层,数据分布,特征识别,贡献度,掩码技术,核实,CIFAR,SVHN,SFP,FPGM,MIL,VGG16,Resnet,多分支,Mobilenet,v1,轻量化网络,精度损失,模型参数量,浮点,操作数
AB值:
0.327713
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。