首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】基于Kafka消息中间件的多源异构空间大数据分割方法_广东省土地调查规划院;吉奥时空信息技术股份有限公司_202410086438.X 

申请/专利权人:广东省土地调查规划院;吉奥时空信息技术股份有限公司

申请日:2024-01-22

公开(公告)日:2024-05-31

公开(公告)号:CN118113799A

主分类号:G06F16/29

分类号:G06F16/29;G06F9/54

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.18#实质审查的生效;2024.05.31#公开

摘要:本发明适用于GIS大数据治理领域,提供一种基于Kafka消息中间件的多源异构空间大数据分割方法,包括:向管理中心注册待分割的数据源和空间库;根据实际应用场景创建分割规则和空间索引;获取当前待分割的数据源,格式转换处理,然后进行分割,生成分割特征值,根据分割特征值将数据进行分类;创建Kafka主题,根据分割特征值将数据分批推送到Kafka主题,根据配置的拉取周期、单次拉取数量,周期性从Kafka消息中间件绑定的Kafka主题中拉取数据,并写入图层。本发明采用消息中间件集群多管道进行数据传输,采用二级空间索引和空间图形匹配方式保证数据分割的效率,整体上从数据读取、分割、传输、写入各个阶段保住了功能的性能,具有高性能、灵活性、实用性、可拓展性的特点。

主权项:1.一种基于Kafka消息中间件的多源异构空间大数据分割方法,其特征在于,所述方法包括下述步骤:步骤S1、向管理中心注册待分割的数据源和用于保存分割数据的空间库;步骤S2、根据实际应用场景创建分割规则,包括空间分割规则和属性分割规则,并根据空间分割规则生成空间索引;步骤S3、获取当前待分割的数据源,根据数据源类型,将获取的数据进行格式转换处理,然后根据分割规则对转换后的数据进行分割,生成分割特征值,根据分割特征值将数据进行分类;步骤S4、根据分割的数据类别动态创建Kafka主题,并将数据推送至对应的Kafka主题,根据配置的拉取周期、单次拉取数量,周期性从Kafka消息中间件绑定的Kafka主题中拉取数据,并将拉取的数据写入至空间库对应的图层中。

全文数据:

权利要求:

百度查询: 广东省土地调查规划院;吉奥时空信息技术股份有限公司 基于Kafka消息中间件的多源异构空间大数据分割方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。