典型文献
知识指导的预训练语言模型
文献摘要：
作为典型的数据驱动工具,预训练语言模型(PLM)仍然面临可解释性不强、鲁棒性差等难题.如何引入人类积累的丰富知识,是改进预训练模型性能的重要方向.系统介绍知识指导的预训练语言模型的最新进展与趋势,总结知识指导的预训练语言模型的典型范式,包括知识增强、知识支撑、知识约束和知识迁移,从输入、计算、训练、参数空间等多个角度阐释知识对于预训练语言模型的重要作用.
文献关键词：
自然语言处理;PLM;知识图谱
中图分类号：
作者姓名：
韩旭;张正彦;刘知远
作者机构：
清华大学,中国北京100084
文献出处：
引用格式：
[1]韩旭;张正彦;刘知远-.知识指导的预训练语言模型)[J].中兴通讯技术,2022(02):10-15
A类：
B类：
预训练语言模型,PLM,可解释性,预训练模型,模型性能,最新进展,进展与趋势,型范,知识增强,知识迁移,参数空间,自然语言处理
AB值：
0.27997
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
