首站-论文投稿智能助手
典型文献
优化预训练模型的小语料中文文本分类方法
文献摘要:
针对GloVe、BERT模型生成的字向量在小语料库中表义不足的问题,提出融合向量预训练模型,对小语料中文短文本分类的精确度进行提升.本文以今日头条新闻公开数据集为实验对象,使用GloVe、BERT模型通过领域预训练,对GloVe与BERT生成的预训练字向量进行向量融合,实现语义增强,从而提升短文本分类效果.结果表明,当语料库中的数据量为500时,融合字向量的准确度相较于BERT字向量的准确度提升了5个百分点,相较于GloVe字向量的准确度提升了3个百分点.词义选取的维度待进一步加强.本文所提方法能够对小语料库的短文本数据实现精准分类,对后续文本挖掘工作具有重要意义.
文献关键词:
BERT;GloVe;向量融合;小语料;短文本
作者姓名:
陈蓝;杨帆;曾桢
作者机构:
贵州财经大学信息学院,贵阳 550000
文献出处:
引用格式:
[1]陈蓝;杨帆;曾桢-.优化预训练模型的小语料中文文本分类方法)[J].现代计算机,2022(16):1-8,15
A类:
B类:
预训练模型,小语料,中文文本分类,文本分类方法,GloVe,BERT,模型生成,字向量,语料库,表义,中文短文本分类,今日头条,头条新闻,公开数据集,集为,实验对象,练字,行向量,向量融合,语义增强,分类效果,数据量,百分点,词义,文本数据,精准分类,续文,文本挖掘
AB值:
0.314412
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。