典型文献
基于ERNIE-RCNN模型的中文短文本分类
文献摘要:
由于中文短文本存在特征词少、规范性差、数据规模量大等难点,ERNIE预训练模型占用内存大,进行短文本分类时会造成向量空间稀疏、文本预训练不准确、时间复杂度高等问题.针对以上短文本分类存在的问题,提出基于ERNIE-RCNN模型的中文短文本分类.模型运用ERNIE模型作为词向量,对实体和词语义单元掩码,后连接Transformer的编码层,对ERNIE层输出的词嵌入向量进行编码,优化模型过拟合问题,增强泛化能力,RCNN模型对ERNIE输入的词向量进行特征提取,卷积层利用大小不同的卷积核提取大小不同的特征值,池化层进行映射处理,最后通过softmax进行分类.将该模型与七种深度学习文本分类模型在中文新闻数据集上进行训练实验,得到了模型在准确率、精准率、召回率、F1值、迭代次数、运行时间上的对比结果,表明ERNIE-RCNN模型能够很好地提取文本中的特征信息,减少了训练时间,有效解决了中文短文本分类的难点,具有很好的分类效果.
文献关键词:
中文短文本分类;ERNIE模型;ERNIE-RCNN模型;词向量;特征提取;深度学习
中图分类号:
作者姓名:
王浩畅;孙铭泽
作者机构:
东北石油大学 计算机与信息技术学院,黑龙江 大庆 163318
文献出处:
引用格式:
[1]王浩畅;孙铭泽-.基于ERNIE-RCNN模型的中文短文本分类)[J].计算机技术与发展,2022(06):28-33
A类:
B类:
ERNIE,RCNN,中文短文本分类,存在特征,特征词,预训练模型,向量空间,时间复杂度,类存在,词向量,词语,掩码,Transformer,编码层,词嵌入,嵌入向量,过拟合,泛化能力,卷积层,卷积核,池化,层进,映射处理,softmax,七种,学习文本,分类模型,中文新闻,新闻数据,召回率,迭代次数,运行时间,特征信息,训练时间,分类效果
AB值:
0.294337
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。