典型文献
SSMT:结合状态空间模型和Transformer的时序预测算法
文献摘要：
目前基于Transformer的时序预测算法主要是利用Transformer内的注意力机制来处理一连串的数据.与基于循环神经网络(Recurrent Neural Network,RNN)的方法不同,Transformer使模型可以访问历史数据的任意一个部分而不用考虑距离,这使得它有可能更适合于学习到具有长期依赖性的重复模式.而状态空间模型在学习时具有更强的先验信息,在先验信息正确时可以减少模型训练的数据量.文章根据两种方法的特点提出了状态空间模型与Transformer联合的时序预测算法SSMT,先用Transformer将数据特征映射为状态空间模型的参数,再使用状态空间模型预测时间序列在每一个时间点上的概率分布,通过概率分布进行详细预测.通过在真实数据集上的测试,该算法在数据量不大的小数据集上也能取得较好的效果.
文献关键词：
状态空间模型;Transformer;时序预测
中图分类号：
作者姓名：
刘立伟;余绍俊
作者机构：
云南师范大学 信息学院,云南 昆明 650500;昆明学院 信息工程学院,云南 昆明 650214
文献出处：
引用格式：
[1]刘立伟;余绍俊-.SSMT:结合状态空间模型和Transformer的时序预测算法)[J].无线互联科技,2022(24):131-137
A类：
SSMT
B类：
状态空间模型,Transformer,时序预测,预测算法,注意力机制,一连串,循环神经网络,Recurrent,Neural,Network,RNN,历史数据,不用,先验信息,模型训练,数据量,先用,数据特征,特征映射,使用状态,概率分布,真实数据,小数据,能取
AB值：
0.284627
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
