典型文献
基于自动修补策略的网络剪枝
文献摘要:
为有效缓解深度神经网络因其庞大的计算资源消耗而产生的实际应用受限的问题,研究人员设计包括剪枝在内的多种压缩策略.基于贪心思想的网络剪枝算法大都包含训练、剪枝、微调三部分,无法求得最优的剪枝结构.因此,文中结合人工规则和自动搜索方法,提出基于自动修补策略的网络剪枝.整体剪枝流程包括训练、预剪枝、修补和微调四个阶段,增加的修补阶段可调整预剪枝模型的结构.具体方法是使用神经架构搜索实现修补操作,设计搜索空间和搜索策略,并基于预剪枝阶段的卷积核排序加速评估过程.实验表明文中方法在剪枝率较高时仍能保持网络的准确率.
文献关键词:
深度神经网络;网络剪枝;神经架构搜索;网络修补
中图分类号:
作者姓名:
苏启航;钱烨强;袁伟;杨明;王春香
作者机构:
上海交通大学 自动化系 上海200240;上海交通大学 系统控制与信息处理教育部重点实验室 上海200240;上海交通大学 密西根学院 上海200240
文献出处:
引用格式:
[1]苏启航;钱烨强;袁伟;杨明;王春香-.基于自动修补策略的网络剪枝)[J].模式识别与人工智能,2022(01):62-70
A类:
剪枝结构,网络修补
B类:
网络剪枝,深度神经网络,计算资源,资源消耗,压缩策略,贪心,心思,剪枝算法,微调,三部分,自动搜索,搜索方法,具体方法,神经架构搜索,搜索空间,搜索策略,卷积核,明文,中方
AB值:
0.318025
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。