典型文献
基于稠密连接注意力单任务提升的深度多任务学习
文献摘要：
多任务学习通过任务间的知识共享提升多个关联任务的泛化性能.多任务学习领域的大多数方法通过设置先验性的知识共享结构来定义任务间的关系,这些知识共享结构可能使任务不能充分利用多任务学习带来的好处,甚至导致明显的知识负迁移,使得任务性能提升不大.为了解决上述问题,提出了一种基于稠密连接注意力单任务提升的深度多任务学习方法.该方法中每个任务使用特异的自注意力单元学习任务间的知识共享结构,通过稠密连接将知识共享信息与自身动态结合,使用单任务提升训练方法贪心地优化每个任务,极大程度地避免知识负迁移所带来的问题.在多个数据集上的实验证明了该方法的有效性,其性能已优于目前许多先进的多任务学习方法.
文献关键词：
多任务学习;自注意力机制;稠密连接;知识共享;单任务提升
中图分类号：
作者姓名：
王进;任超;舒雅宁;彭浩;闫振兴
作者机构：
重庆邮电大学 数据工程与可视计算重点实验室,重庆400065
文献出处：
引用格式：
[1]王进;任超;舒雅宁;彭浩;闫振兴-.基于稠密连接注意力单任务提升的深度多任务学习)[J].重庆邮电大学学报（自然科学版）,2022(03):393-401
A类：
单任务提升
B类：
稠密连接,多任务学习,学习通,知识共享,泛化性能,学习领域,先验性,好处,负迁移,性能提升,务使,单元学习任务,共享信息,训练方法,贪心,自注意力机制
AB值：
0.18734
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
