典型文献
多神经网络协作的电力文本类型识别
文献摘要:
电力企业为实现数字资产管理,提高行业运行效率,促进电力信息化的融合,需要实施有效的数据组织管理方法.针对电力行业中的数据,提出了基于字级别特征的高效文本类型识别模型.在该模型中,将字符通过BERT预训练模型生成电力客服文本动态的高效字向量,字向量序列输入利用融合注意力机制的双向长短期记忆网络(BiLSTM),通过注意力机制有效捕捉文本中帮助实现类型识别的潜在特征,最终利用Softmax层实现对电力文本的类型识别任务.本文提出的模型在电力客服文本数据集上达到了 98.81%的准确率,优于CNN,BiLSTM等传统神经网络识别方法,增强了 BERT模型的应用,并有效解决了电力文本类型识别任务中语义的长距离依赖问题.
文献关键词:
BERT模型;双向长短期记忆网络(BiLSTM);注意力机制;深度学习;自然语言处理
中图分类号:
作者姓名:
陈鹏;吴旻荣;蔡冰;何晓勇;金兆轩;金志刚;侯瑞
作者机构:
国网宁夏电力有限公司,银川750001;天津大学电气自动化与信息工程学院,天津300072;华北电力大学苏州研究院,苏州215123;华北电力大学经济与管理学院,北京102206
文献出处:
引用格式:
[1]陈鹏;吴旻荣;蔡冰;何晓勇;金兆轩;金志刚;侯瑞-.多神经网络协作的电力文本类型识别)[J].计算机系统应用,2022(07):149-157
A类:
B类:
网络协作,电力文本,文本类型,类型识别,电力企业,数字资产管理,高行,行业运行,电力信息,数据组织,电力行业,识别模型,字符,BERT,预训练模型,模型生成,客服,字向量,注意力机制,双向长短期记忆网络,BiLSTM,潜在特征,Softmax,文本数据,上达,长距离依赖,自然语言处理
AB值:
0.321689
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。