典型文献
基于本地蒸馏联邦学习的鲁棒语音识别技术
文献摘要:
当联邦学习(FL)算法应用于鲁棒语音识别任务时,为解决训练数据非独立同分布(Non-IID)与客户端模型缺乏个性化问题,提出基于个性化本地蒸馏的联邦学习(PLD-FLD)算法.客户端通过上行链路上传本地Logits并在中心服务器聚合后下传参数,当边缘端模型测试性能优于本地模型时,利用下载链路接收中心服务器参数,确保了本地模型的个性化与泛化性,同时将模型参数与全局Logits通过下行链路下传至客户端,实现本地蒸馏学习,解决了训练数据的Non-IID问题.在AISHELL与PERSONAL数据集上的实验结果表明,PLD-FLD算法能在模型性能与通信成本之间取得较好的平衡,面向军事装备控制任务的语音识别准确率高达91%,相比于分布式训练的FL和FLD算法具有更快的收敛速度和更强的鲁棒性.
文献关键词:
鲁棒语音识别;联邦学习;本地蒸馏;非独立同分布;分布式训练
中图分类号:
作者姓名:
柏财通;崔翛龙;李爱
作者机构:
武警工程大学 研究生大队,西安 710086;武警工程大学 反恐指挥信息工程研究团队,西安 710086;武警工程大学乌鲁木齐校区,乌鲁木齐 830049
文献出处:
引用格式:
[1]柏财通;崔翛龙;李爱-.基于本地蒸馏联邦学习的鲁棒语音识别技术)[J].计算机工程,2022(10):103-109
A类:
本地蒸馏,鲁棒语音识别,Logits,PERSONAL
B类:
联邦学习,语音识别技术,算法应用,训练数据,非独立同分布,Non,IID,客户端,基于个性,PLD,FLD,上行链路,传本,中心服务器,下传,边缘端,模型测试,测试性,下载,泛化性,下行链路,路下,蒸馏学习,AISHELL,模型性能,通信成本,军事装备,识别准确率,分布式训练,收敛速度
AB值:
0.286196
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。