首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种数据血缘分析系统及分析方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:北京枫清科技有限公司

摘要:本发明公开了一种数据血缘分析系统及分析方法,涉及数据处理技术领域,该方法包括:在计算引擎分配器接收到数据血缘分析任务时,根据计算资源信息将数据血缘分析任务分配至计算引擎;通过计算引擎和元数据服务查询血缘分析任务对应的目标元数据,并将目标元数据返回至计算引擎;计算引擎根据目标元数据,获取内存存储装置中的目标血缘图谱数据,基于目标血缘图谱数据对数据血缘分析任务处理;其中,内存存储装置用于分布式存储至少一个血缘图谱数据,并将血缘图谱数据的元数据同步至元数据服务。实现了系统吞吐量成数倍增长,大幅节省内存资源。

主权项:1.一种数据血缘分析系统,其特征在于,包括:计算引擎分配器、计算引擎、元数据服务和内存存储装置,其中,所述计算引擎分配器,用于在接收到数据血缘分析任务时,根据所述数据血缘分析系统的计算资源信息确定计算引擎,并将所述数据血缘分析任务分配至所述计算引擎;所述计算引擎,用于对所述数据血缘分析任务解析,得到所述数据血缘分析任务对应的待查询信息,并将所述待查询信息发送至所述元数据服务;所述元数据服务,用于根据所述待查询信息查询所述血缘分析任务对应的目标元数据,并将所述目标元数据返回至所述计算引擎;所述计算引擎,还用于根据所述目标元数据,获取所述内存存储装置中与所述目标元数据对应的目标血缘图谱数据,基于所述目标血缘图谱数据对所述数据血缘分析任务处理;所述内存存储装置,用于分布式存储至少一个血缘图谱数据,并将所述血缘图谱数据的元数据同步至所述元数据服务;所述计算引擎分配器包括任务分配子模块,其中,所述任务分配子模块,用于根据所述数据血缘分析系统的计算资源信息,创建计算引擎或者确定处于空闲状态的计算引擎,并将所述数据血缘分析任务分配至所述计算引擎;所述计算引擎的并行数量为至少两个,至少两个所述计算引擎分布式部署在至少两个服务节点;至少两个所述计算引擎共享所述内存存储装置中的血缘图谱数据;所述内存存储装置中存储一份全量的所述血缘图谱数据。

全文数据:

权利要求:

百度查询: 北京枫清科技有限公司 一种数据血缘分析系统及分析方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。