典型文献
基于深度哈希的文本表示学习
文献摘要：
文本表示学习作为自然语言处理的一项重要基础性工作,在经历了向量空间模型、词向量模型以及上下文分布式表示的一系列发展后,其语义表示能力已经取得了较大突破,并直接促进模型在机器阅读、文本检索等下游任务上的表现不断提升.然而,预训练语言模型作为当前最先进的文本表示学习方法,在训练阶段和预测阶段的时空复杂度较高,造成了较高的使用门槛.为此,本文提出了一种基于深度哈希和预训练的新的文本表示学习方法,旨在以更低的计算量实现尽可能高的文本表示能力.实验结果表明,在牺牲有限性能的情况下,本文所提出的方法可以大幅降低模型在预测阶段的计算复杂度,在很大程度上提升了模型在预测阶段的使用效率.
文献关键词：
深度哈希;预训练语言模型;Transformer结构;文本表示学习;深度学习;注意力机制
中图分类号：
作者姓名：
邹傲;郝文宁;田媛
作者机构：
陆军工程大学 指挥控制工程学院, 南京 210007
文献出处：
引用格式：
[1]邹傲;郝文宁;田媛-.基于深度哈希的文本表示学习)[J].计算机系统应用,2022(06):158-166
A类：
B类：
深度哈希,文本表示学习,习作,自然语言处理,基础性工作,向量空间模型,词向量,上下文,示能,机器阅读,文本检索,预训练语言模型,最先,表示学习方法,训练阶段,计算量,有限性,计算复杂度,使用效率,Transformer,注意力机制
AB值：
0.258833
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
