典型文献
基于多线程技术的ONNX音频分离模型并发推理的设计与优化
文献摘要：
文章探讨了一种音频分离模型推理加速的一种使用多线程的设计方法,这个方法可以有效地提高模型端侧部署推理速度,有效节省用户使用等待时间.对于一段10 s的音频,使用文章中提出的方法可以仅使用0.48 s就完成推理,以此推算,文中算法在处理器为Inteli7时,处理一个时长2分钟的视频时间不超过10秒.
文献关键词：
多线程;模型推理;并发
中图分类号：
作者姓名：
陈家乐;董雪莲;方慧桧;谭静元
作者机构：
南华大学,湖南 衡阳 421001
文献出处：
引用格式：
[1]陈家乐;董雪莲;方慧桧;谭静元-.基于多线程技术的ONNX音频分离模型并发推理的设计与优化)[J].现代信息科技,2022(14):71-74,78
A类：
ONNX,Inteli7
B类：
多线程技术,音频,设计与优化,模型推理,推理加速,侧部,推理速度,省用,等待时间,推算,处理器
AB值：
0.309119
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
