首站-论文投稿智能助手
典型文献
基于多通道注意力机制的文本分类模型
文献摘要:
为解决卷积神经网络(CNN)和循环神经网络(RNN)处理文本分类任务时,由于文本特征稀疏造成的关键特征信息丢失、模型性能不高和分类效果不佳等问题.提出一种基于多通道注意力机制的文本分类模型,首先利用字词融合的形式进行向量表示,然后利用CNN和BiLSTM提取文本的局部特征和上下文关联信息,接着以注意力机制对各通道的输出信息进行特征加权,凸显特征词在上下文信息的重要程度,最后将输出结果进行融合,并使用softmax计算文本类别概率.在数据集的对比实验结果表明,所提模型的分类效果更为优异.相较于单个通道的模型分类效果,F1值分别提升1.44%和1.16%,验证了所提模型在处理文本分类任务的有效性.该模型互补了 CNN和BiLSTM提取特征的缺点,有效的缓解了 CNN丢失词序信息和BiLSTM处理文本序列的梯度问题,能够有效地统筹文本的局部和全局特征,并进行关键信息凸显,从而获取更为全面的文本特征,因此适用于文本分类任务.
文献关键词:
词向量;卷积神经网络;长短期记忆神经网络;注意力机制;特征融合
作者姓名:
李超凡;马凯
作者机构:
徐州医科大学医学信息与工程学院,江苏徐州221004
引用格式:
[1]李超凡;马凯-.基于多通道注意力机制的文本分类模型)[J].微电子学与计算机,2022(04):33-40
A类:
多通道注意力机制
B类:
文本分类,分类模型,循环神经网络,RNN,分类任务,文本特征,特征稀疏,关键特征,特征信息,信息丢失,模型性能,分类效果,用字,字词融合,行向量,向量表示,BiLSTM,局部特征,联信,特征加权,特征词,上下文信息,重要程度,输出结果,softmax,本类,模型分类,提取特征,词序,全局特征,关键信息,词向量,长短期记忆神经网络,特征融合
AB值:
0.335586
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。