首站-论文投稿智能助手
典型文献
连续学习研究进展
文献摘要:
近年来,随着信息技术的不断发展,各种数据呈现爆炸式的增长,传统的机器学习算法只有当测试数据与训练数据分布类似时,学习算法才能取得较好的性能,换句话说,它们不能在动态环境中连续自适应地学习,然而,这种自适应学习的能力却是任何智能系统都具备的特性.深度神经网络在许多应用中显示出最好的学习能力,然而,使用该方法对数据进行增量更新学习时,会面临灾难性的干扰或遗忘问题,导致模型在学习新任务之后忘记如何解决旧任务.连续学习(continual learning,CL)的研究使这一问题得到缓解.连续学习是模拟大脑学习的过程,按照一定的顺序对连续非独立同分布的(independently and identically distributed,IID)流数据进行学习,进而根据任务的执行结果对模型进行增量式更新.连续学习的意义在于高效地转化和利用已经学过的知识来完成新任务的学习,并且能够极大程度地降低遗忘带来的问题.连续学习研究对智能计算系统自适应地适应环境改变具有重要的意义.基于此,系统综述了连续学习的研究进展,首先概述了连续学习的定义,介绍了无遗忘学习、弹性权重整合和梯度情景记忆3种典型的连续学习模型,并对连续学习存在的关键问题及解决方法进行了介绍,之后又对基于正则化、动态结构和记忆回放互补学习系统的3类连续学习模型进行了分类和阐述,并在最后指明了连续学习进一步研究中需要解决的问题以及未来可能的发展方向.
文献关键词:
连续学习;灾难性遗忘;增量学习;正则化;动态结构;记忆回放
作者姓名:
韩亚楠;刘建伟;罗雄麟
作者机构:
中国石油大学(北京)信息科学与工程学院 北京 102249
引用格式:
[1]韩亚楠;刘建伟;罗雄麟-.连续学习研究进展)[J].计算机研究与发展,2022(06):1213-1239
A类:
记忆回放
B类:
连续学习,学习研究,爆炸式,机器学习算法,测试数据,训练数据,数据分布,能取,换句话说,动态环境,地学,自适应学习,智能系统,深度神经网络,多应用,增量更新,新学,会面,新任务,忘记,何解,continual,learning,CL,题得,脑学,非独立同分布,independently,identically,distributed,IID,流数据,增量式更新,转化和利用,经学,忘带,智能计算,计算系统,适应环境,系统综述,无遗,忘学,重整,情景记忆,问题及解决方法,正则化,动态结构,学习系统,未来可能,灾难性遗忘,增量学习
AB值:
0.415547
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。