典型文献
用于胎儿超声切面识别的知识蒸馏方法
文献摘要:
胎儿超声切面识别是产前超声检查的主要任务之一,直接影响了产前超声检查的质量.近年来,深度神经网络方法在临床超声辅助诊断方面取得了许多进展.然而,已有研究大多应用预训练模型微调进行迁移学习,这不仅容易导致参数冗余和过拟合问题,而且限制了在实际应用中的实时分析能力.本文提出用于胎儿超声切面识别的知识蒸馏方法.第1阶段,在学生教师网络模型中采用残差网络,对二者隐藏层特征融入注意力机制,提取隐藏层关键信息,进行一次知识迁移,使学生网络获得先验权重;第2阶段,使用教师网络模型指导学生网络模型进行知识蒸馏训练,进一步从整体上提升知识迁移的性能.实验结果表明:学生网络在提升各项性能的同时,降低了模型复杂度,有利于超声设备终端的部署和实时分析能力的提升.
文献关键词:
深度学习;卷积神经网络;残差网络;产前检查;胎儿超声;计算机辅诊;知识蒸馏;模型压缩
中图分类号:
作者姓名:
张欣培;周尧;章毅
作者机构:
四川大学计算机学院, 四川成都 610065
文献出处:
引用格式:
[1]张欣培;周尧;章毅-.用于胎儿超声切面识别的知识蒸馏方法)[J].智能系统学报,2022(01):181-191
A类:
计算机辅诊
B类:
胎儿超声,切面,知识蒸馏,产前超声检查,主要任务,深度神经网络,神经网络方法,超声辅助,辅助诊断,多应用,预训练模型,模型微调,调进,迁移学习,过拟合,实时分析,分析能力,教师网络,残差网络,注意力机制,关键信息,知识迁移,学生网络,先验,行知,模型复杂度,设备终端,产前检查,模型压缩
AB值:
0.315082
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。