首站-论文投稿智能助手
典型文献
基于自适应分层阈值判断的神经网络模型压缩
文献摘要:
面对多样化的应用环境,卷积神经网络(CNN)的架构深度不断增加以提升精度,但同时需要大量的计算参数和网络存储.针对CNN卷积层参数冗余和运算效率低的问题,提出一种基于分层阈值的自适应动态剪枝方法.设计自适应分层阈值判断算法,对批归一化层的尺度因子进行聚类分析,自适应地找到每层的分类断点并据此确定最终阈值,利用该阈值修剪正则化后的输入模型,从而避免根据经验人为定义固定阈值,减小模型尺寸和运行时占用的内存.分别采用该方法和LIU等提出的使用固定阈值且全局修剪的方法对VGGNet、ResNet、DenseNet和LeNet模型进行压缩,并在CIFAR、SVHN和MNIST数据集上测试模型性能.实验结果表明,该方法能够在模型精度与剪枝率之间找到最优平衡,剪枝后模型的测试错误率较对比方法降低0.02~1.52个百分点,同时自适应分层阈值判断算法也能避免对比方法在全局修剪时减去整个层的问题.
文献关键词:
深度学习;图像识别;卷积神经网络;模型压缩;网络剪枝
作者姓名:
卢鹏;万莹;邹国良;陈金宇;郑宗生;王振华
作者机构:
上海海洋大学 信息学院,上海 201306
文献出处:
引用格式:
[1]卢鹏;万莹;邹国良;陈金宇;郑宗生;王振华-.基于自适应分层阈值判断的神经网络模型压缩)[J].计算机工程,2022(01):112-118,126
A类:
B类:
自适应分层,阈值判断,模型压缩,应用环境,计算参数,网络存储,卷积层,运算效率,剪枝方法,批归一化层,尺度因子,每层,断点,修剪,正则化,固定阈值,模型尺寸,LIU,VGGNet,ResNet,DenseNet,LeNet,CIFAR,SVHN,MNIST,测试模型,模型性能,模型精度,试错,错误率,比方,百分点,减去,图像识别,网络剪枝
AB值:
0.440529
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。