典型文献
基于误差限制的神经网络混合精度量化方法
文献摘要：
基于卷积神经网络的深度学习算法展现出卓越性能的同时也带来了冗杂的数据量和计算量，大量的存储与计算开销也成了该类算法在硬件平台部署过程中的最大阻碍。而神经网络模型量化使用低精度定点数代替原始模型中的高精度浮点数，在损失较小精度的前提下可有效压缩模型大小，减少硬件资源开销，提高模型推理速度。现有的量化方法大多将模型各层数据量化至相同精度，混合精度量化则根据不同层的数据分布设置不同的量化精度，旨在相同压缩比下达到更高的模型准确率，但寻找合适的混合精度量化策略仍十分困难。因此，提出一种基于误差限制的混合精度量化策略，通过对神经网络卷积层中的放缩因子进行统一等比限制，确定各层的量化精度，并使用截断方法线性量化权重和激活至低精度定点数，在相同压缩比下，相比统一精度量化方法有更高的准确率。其次，将卷积神经网络的经典目标检测算法YOLOV5s作为基准模型，测试了方法的效果。在COCO数据集和VOC数据集上，该方法与统一精度量化相比，压缩到5位的模型平均精度均值（mean Average Precision, mAP）分别提高了6%和24.9%。
文献关键词：
深度学习;混合精度;截断量化;YOLOV5
中图分类号：
作者姓名：
李奕铎;郭子博;刘凯;孙逍遥
作者机构：
西安电子科技大学 计算机科学与技术学院，陕西 西安 710071
文献出处：
引用格式：
[1]李奕铎;郭子博;刘凯;孙逍遥-.基于误差限制的神经网络混合精度量化方法)[J].红外与激光工程,2022(04):
A类：
混合精度量化,截断量化
B类：
量化方法,深度学习算法,卓越性,冗杂,计算量,计算开销,硬件平台,平台部署,模型量化,低精度,定点数,数代,浮点数,压缩模型,硬件资源,模型推理,推理速度,层数,数据量化,数据分布,布设,压缩比,下达,模型准确率,十分困难,卷积层,放缩,截断方法,法线,目标检测算法,YOLOV5s,COCO,VOC,缩到,模型平均,平均精度均值,mean,Average,Precision,mAP
AB值：
0.389711
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
