典型文献
基于梯度的自适应阈值结构化剪枝算法
文献摘要：
在边缘设备上运行深度神经网络模型并进行实时性分析,需要对网络模型进行压缩以减少模型参数量和计算量,但现有剪枝算法存在耗时长和模型压缩率低的问题.提出一种基于梯度设置不同阈值的结构化剪枝算法.对神经元进行细粒度评价,采用神经网络的梯度信息衡量权重的重要性,通过网格搜索和计算曲率的方式获取不同网络层的剪枝权重阈值,根据搜索后的剩余参数量确定不同网络层的卷积核中需要剔除的冗余参数.在此基础上,保留网络层中有效参数较多的卷积核,实现对卷积核个数的调整,进而重新训练以保证模型精度.分别对VGG16、ResNet50分类模型和SSD、Yolov4、MaskRCNN目标检测模型进行剪枝实验,结果表明,经该算法剪枝后,分类模型参数量减少92％以上,计算量减少70％以上,目标检测模型参数量减少75％以上,计算量减少57％以上,剪枝效果优于Rethinking、PF等算法.
文献关键词：
模型压缩;神经网络;梯度信息;自适应阈值;结构化剪枝
中图分类号：
作者姓名：
王国栋;叶剑;谢萦;钱跃良
作者机构：
临沂中科人工智能创新研究院,山东 临沂 276000;中国科学院计算技术研究所 泛在计算系统研究中心,北京 100190
文献出处：
引用格式：
[1]王国栋;叶剑;谢萦;钱跃良-.基于梯度的自适应阈值结构化剪枝算法)[J].计算机工程,2022(09):113-120
A类：
MaskRCNN
B类：
自适应阈值,结构化剪枝,剪枝算法,边缘设备,深度神经网络模型,模型参数量,计算量,模型压缩,压缩率,细粒度,梯度信息,网格搜索,曲率,网络层,量确定,卷积核,冗余参数,有效参数,新训,模型精度,VGG16,ResNet50,分类模型,SSD,Yolov4,目标检测模型,Rethinking,PF
AB值：
0.331342
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
