典型文献
面向模型预分层的边缘终端多AI任务调度策略
文献摘要：
边缘AI的兴起促进了 AI在边缘计算场景中的广泛应用.随着AI任务的多样化、终端设备性能的不断提升,实际应用中亟须设计一种新的模型实现单个终端设备上的多AI任务并行调度.然而目前的研究更关注单个AI任务在单个终端设备上的计算效率,因此本文提出一种基于模型预分层的多AI任务调度策略,以优化多AI任务在终端设备上的计算效率.首先,对多个AI任务进行模型预分层,并记录每种预分层的计算量和参数量;其次,在终端设备上建立资源监控模型,实时检测可用资源情况;最后,结合时间周期要求和实时可用资源的约束,以对边缘终端的计算资源需求最大为目标,从多个AI任务的多个预分层模型集合中选取一组由多个AI任务不同预分层组成的最优解,动态地调整每个AI任务在终端设备上的模型计算层数,在避免固定式模型分层的弊端的同时,充分利用终端设备的计算资源.实验结果显示,本文策略能够有效提高多AI任务的计算效率,计算资源利用率可达到96.97％,调度分配成功率可达到96.45％,数据传输量减小率可达到97.22％.
文献关键词：
模型预分层;终端设备;边缘AI;多AI任务调度
中图分类号：
作者姓名：
梁荣欣;陈庆奎
作者机构：
上海理工大学光电信息与计算机工程学院,上海200093
文献出处：
引用格式：
[1]梁荣欣;陈庆奎-.面向模型预分层的边缘终端多AI任务调度策略)[J].小型微型计算机系统,2022(06):1154-1161
A类：
模型预分层
B类：
边缘终端,任务调度,调度策略,边缘计算,终端设备,设备性能,模型实现,任务并行,并行调度,计算效率,基于模型,计算量,参数量,资源监控,监控模型,实时检测,可用资源,资源情况,时间周期,计算资源,资源需求,分层模型,最优解,层数,固定式,模型分层,资源利用率,配成,数据传输,输量
AB值：
0.280769
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
