FAILED
首站-论文投稿智能助手
典型文献
基于深度自编码的医疗命名实体识别模型
文献摘要:
针对在医疗命名实体识别(MNER)问题中随着网络加深,基于深度学习的识别模型出现的识别精度与算力要求不平衡的问题,提出一种基于深度自编码的医疗命名实体识别模型CasSAttMNER.首先,使用编码与解码间深度差平衡策略,以经过蒸馏的Transformer语言模型RBT6作为编码器以减小编码深度以及降低对训练和应用上的算力要求;然后,使用双向长短期记忆(BiLSTM)网络和条件随机场(CRF)提出了级联式多任务双解码器,从而完成实体提及序列标注与实体类别判断;最后,基于自注意力机制在实体类别中增加实体提及过程抽取的隐解码信息,以此来优化模型设计.实验结果表明,CasSAttMNER在两个中文医疗实体数据集上的F值度量可分别达到0.9439和0.9457,较基线模型分别提高了3个百分点和8个百分点,验证了该模型更进一步地提升了解码器性能.
文献关键词:
命名实体识别;自编码网络;双向长短期记忆网络;注意力机制;多任务
作者姓名:
侯旭东;滕飞;张艺
作者机构:
西南交通大学计算机与人工智能学院,成都611756
文献出处:
引用格式:
[1]侯旭东;滕飞;张艺-.基于深度自编码的医疗命名实体识别模型)[J].计算机应用,2022(09):2686-2692
A类:
MNER,CasSAttMNER,RBT6
B类:
深度自编码,命名实体识别,识别模型,识别精度,算力,编码与解码,平衡策略,蒸馏,Transformer,语言模型,编码器,BiLSTM,条件随机场,CRF,级联式,多任务,双解码器,序列标注,实体类别,自注意力机制,模型设计,基线模型,百分点,更进一步,自编码网络,双向长短期记忆网络
AB值:
0.235714
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。