典型文献
数据同步技术在气象大数据云平台中的应用
文献摘要:
为满足山东省气象预报、公共服务等气象业务对海量气象数据访问需求和毫秒级响应的时效需求,基于数据库变更日志Binlog和分布式消息服务Kafka技术,在省级气象大数据云平台中设计了一套气象数据同步框架,并通过存储管理系统(SOD)进行策略配置,解决了原有CIMISS数据环境在规模和性能上的服务瓶颈.实践证明:基于Binlog+Kafka的气象数据同步效率可达110000条/s,耗时延迟毫秒级,有效支撑了全省气象业务系统对海量气象数据的时效需求.
文献关键词:
Binlog;Kafka;气象大数据云平台;数据同步;存储管理
中图分类号:
作者姓名:
冯勇;吕冠儒;李微;安浩然
作者机构:
山东省气象局气象防灾减灾重点实验室,山东 济南 250031;山东省气象信息中心,山东 济南 250031;湖南省气象信息中心,湖南 长沙 410118;济南高新技术产业开发区气象局,山东 济南 250031
文献出处:
引用格式:
[1]冯勇;吕冠儒;李微;安浩然-.数据同步技术在气象大数据云平台中的应用)[J].科学技术创新,2022(21):96-99
A类:
Binlog,Binlog+Kafka
B类:
数据同步技术,气象大数据云平台,气象预报,气象业务,气象数据,数据访问,毫秒,日志,中设计,存储管理系统,CIMISS,数据环境,服务瓶颈,时延,有效支撑,业务系统
AB值:
0.220588
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。