首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种通过Flink从Kafka到Hive数据实时采集汇聚方法、设备及介质_山东浪潮超高清智能科技有限公司_202410306122.7 

申请/专利权人:山东浪潮超高清智能科技有限公司

申请日:2024-03-18

公开(公告)日:2024-06-04

公开(公告)号:CN118132634A

主分类号:G06F16/25

分类号:G06F16/25;G06F16/22;G06F16/2455;G06F16/242;G06F16/16

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.21#实质审查的生效;2024.06.04#公开

摘要:一种通过Flink从Kafka到Hive数据实时采集汇聚方法,涉及计算机数据读写技术领域,通过Flink读取Kafka数据直接写到HDFS对应Hive表存储目录下,按照Hive创建表结构的分区字段存储格式进行命名文件,按照Hive创建表结构的字段分隔符进行分隔文件内容,满足Hive的存储结构,直接通过Hive读取,同时自定义实现Flink的BucketAssign和Decoder实现解决小文件合并过程中的内容读写方式及合并文件后规则命名,来满足Hive存储表存储规则。

主权项:1.一种通过Flink从Kafka到Hive数据实时采集汇聚方法,其特征在于,包括:采集数据源数据并推送到Kafka;利用FlinkKafkaSource订阅Kafka;利用FlinkFileSink写入hive对应的hdfs目录;利用HiveSQL查询写入的数据。

全文数据:

权利要求:

百度查询: 山东浪潮超高清智能科技有限公司 一种通过Flink从Kafka到Hive数据实时采集汇聚方法、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。