典型文献
面向人工智能物联网的分布式训练通信优化策略
文献摘要:
为了提高物联网中人工智能模型的训练效率,提出了一种基于阈值划分的梯度选择策略,以解决分布式训练过程中节点间通信开销高的问题.通过研究主流的模型来分析梯度参数的分布.根据梯度的分布特点,该策略将梯度分为关键区域和稀疏区域.结合梯度分布的信息熵,该策略确定合理的阈值对分区内的梯度值进行选择,仅选择大于阈值的梯度值参与训练.实验评估结果表明,该策略可以有效地减少传输的参数量,并确保了模型训练的准确性.
文献关键词:
人工智能物联网;分布式训练;梯度选择
中图分类号:
作者姓名:
赵晓杰;陈晔
作者机构:
武夷学院信息技术与实验室管理中心、数字福建旅游大数据研究所,福建武夷山354300;武夷学院资产管理处,福建武夷山354300
文献出处:
引用格式:
[1]赵晓杰;陈晔-.面向人工智能物联网的分布式训练通信优化策略)[J].西安文理学院学报(自然科学版),2022(04):27-31
A类:
B类:
人工智能物联网,分布式训练,通信优化,人工智能模型,训练效率,阈值划分,梯度选择,选择策略,训练过程,中节点,间通信,通信开销,关键区域,信息熵,值参,实验评估,参数量,模型训练
AB值:
0.366033
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。