典型文献
面向事件检测的预训练主动学习模型
文献摘要:
深度学习在事件检测任务上取得了显著的成果,但模型严重依赖于大量的标注数据.由于事件结构化的信息和丰富的标签表示,使得获取注释的成本很高,难以大量获得.针对事件检测任务,为了提高语料标注效率,减少训练过程所需的标注样本数量,提出一种联合主动学习和预训练模型的事件检测模型.针对主动学习模型存在的冷启动问题,设计了基于融合不确定性的特殊样本选择策略,估计样本在微调下游事件检测任务方面的潜在贡献.一方面,结合预训练模型从原始任务中带来的丰富的语义信息,避免了重新设计网络结构或从零开始训练;另一方面,利用主动学习选择信息丰富的样本能更好地微调预训练模型,减少数据标注成本.在ACE 2005语料上进行数值实验验证,结果证明了所提出的EDPAL算法的有效性.
文献关键词:
主动学习;事件检测;预训练模型;样本选择策略;微调
中图分类号:
作者姓名:
冯琳慧;乔林波;阚志刚
作者机构:
国防科技大学并行与分布处理国家重点实验室,湖南 长沙410073
文献出处:
引用格式:
[1]冯琳慧;乔林波;阚志刚-.面向事件检测的预训练主动学习模型)[J].南京师范大学学报(工程技术版),2022(02):41-47
A类:
EDPAL
B类:
事件检测,主动学习,事件结构,语料标注,少训练,训练过程,样本数量,预训练模型,检测模型,冷启动问题,确定性的,样本选择策略,微调,调下,语义信息,重新设计,设计网,从零开始,本能,少数据,数据标注,ACE,数值实验
AB值:
0.309012
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。