首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种flink state状态迁移方案 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:天翼电子商务有限公司

摘要:本发明公开了一种flinkstate状态迁移方案,本发明中一次flinkstate迁移的步骤主要分为以下三步:1.让flink作业完成state持久化到hdfs;2.在flinkjob代码中加入flinkstate数据,格式化输出到外部存储的代码;Flink支持从指定的版本的数据进行恢复,这里仅仅使用flink的程序加载指定版本的数据,只在job在初始化的时候完成将state数据格式化输出到外部存储;3.在新的版本的flink作业中进行加载对应的task的状态数据本方案提出flink运行时dump计算状态,状态恢复时加载自定义的数据结构来支持计算拓扑变化,计算状态类型变化等方案,从而保证数据计算的一致性。

主权项:1.一种flinkstate状态迁移方案,其特征在于,基于以下四种场景的flinkstate都不能完成状态迁移的条件下:一、flink计算job算子未设置唯一标识;二、或是唯一标识发生变化;三、算子类型与state类型变化;四、多个算子都依赖之前的一个状态的场景;采用运行状态迁移方案来实现flinkjob的一致性;具体如下所示:S1.将运行时flink的state数据进行savepoint到hdfs;S2.启动job将savepoint数据格式化后的外部存储;S3.启动新的job从外部存储初始化statefuloperation算子状态数据;完成一次flinkstate迁移的步骤主要分为以下三步:S1.让flink作业完成state持久化到hdfs;S2.在flinkjob代码中加入flinkstate数据,格式化输出到外部存储的代码;Flink支持从指定的版本的数据进行恢复,这里仅仅使用flink的程序加载指定版本的数据,只在job在初始化的时候完成将state数据格式化输出到外部存储;S3.在新的版本的flink作业中进行加载对应的task的状态数据。

全文数据:

权利要求:

百度查询: 天翼电子商务有限公司 一种flink state状态迁移方案

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。