典型文献
基于多头自注意力机制的实体识别研究
文献摘要:
为了有效利用专业领域知识,对知识抽取展开研究,针对传统命名识别容易受上下文相对距离的影响、实体整体识别效果差的问题,提出了一种多头自注意力机制与条件随机场(CRF)结合的实体抽取模型.该模型基于Transformer架构,使用多头自注意力机制有效获取上下文信息,构建了多头自注意力机制与CRF结合的实体抽取改进模型,通过拼接多个自注意力机制,减少了对上下文中相对距离过多的约束并特征提取,实现了上下文全局信息的获取能力,提高了模型的泛化能力.最后,基于《人民日报》公开数据集,与其他机器学习模型进行了实验对比,验证了本方法的有效性,并在水下机器人任务作业数据的实体抽取中取得了较好的实验结果.
文献关键词:
命名实体识别;多头自注意力机制;条件随机场;特征提取
中图分类号:
作者姓名:
陈伟;吴云志;涂凌;刘航;余克健;乐毅
作者机构:
安徽农业大学 信息与计算机学院,安徽 合肥 230036;安徽省北斗精准农业信息工程实验室,安徽 合肥 230036;安徽大学 物质科学与信息技术研究院,安徽 合肥 230601
文献出处:
引用格式:
[1]陈伟;吴云志;涂凌;刘航;余克健;乐毅-.基于多头自注意力机制的实体识别研究)[J].蚌埠学院学报,2022(05):54-60
A类:
B类:
多头自注意力机制,领域知识,知识抽取,相对距离,条件随机场,CRF,实体抽取,取模,Transformer,上下文信息,改进模型,拼接,全局信息,泛化能力,人民日报,公开数据集,机器学习模型,实验对比,水下机器人,作业数据,命名实体识别
AB值:
0.212013
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。