典型文献
基于知识蒸馏的轻量化残差网络在塑料颗粒高速检测中的运用
文献摘要：
为了实现塑料颗粒生产过程中的光学外观高速检测,构建了一种基于多教师模型融合的知识蒸馏轻量化残差网络,用多个教师融合模型指导学生网络训练.以结构较为复杂的Vgg-16、Vgg-19、Resnet-18网络为教师网络,以自主搭建的具有多层串联小卷积、残差块特点的轻量化残差网络为学生网络,通过知识蒸馏训练塑料颗粒缺陷检测网络.为了增加模型的泛化能力及鲁棒性,在激活函数的选择上采用LeakyRelu解决了梯度消失的问题,在梯度下降算法的优化方式上采用余弦退火跳过了局部最优点.试验结果表明,轻量化残差网络经过知识蒸馏后与未经过相对比,精确度和召回率分别提高了1.8％和2.2％,精确度从88.8％提升到90.6％,召回率从96.7％提升到98.9％.学生模型经过知识蒸馏后基本达到了教师模型的性能水平,模型的参数量、浮点运算次数、单次检测耗时分别降低了59.2％、59.124％、50％.提出的知识蒸馏模型通过自主搭建的轻量化残差网络在保证检测精度的基础上,实现了塑料颗粒的高速检测,为深度学习技术在塑料颗粒在线高速全检的产业化应用提供了一种方法.
文献关键词：
知识蒸馏;余弦退火;残差网络;类激活热力图
中图分类号：
作者姓名：
李东;梁家睿;马鹏涛
作者机构：
金发科技股份有限公司企业技术中心,广州 510663
文献出处：
引用格式：
[1]李东;梁家睿;马鹏涛-.基于知识蒸馏的轻量化残差网络在塑料颗粒高速检测中的运用)[J].机电工程技术,2022(09):32-36,47
A类：
类激活热力图
B类：
基于知识,知识蒸馏,轻量化残差网络,塑料颗粒,高速检测,模型融合,融合模型,学生网络,网络训练,Vgg,Resnet,教师网络,残差块,颗粒缺陷,缺陷检测,测网,泛化能力,激活函数,LeakyRelu,梯度消失,梯度下降算法,优化方式,余弦退火,局部最优,召回率,学生模型,参数量,浮点运算,检测精度,深度学习技术,产业化应用
AB值：
0.291396
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
