买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:杭州乒乓智能技术有限公司
摘要:本发明涉及数据库技术领域,尤其涉及基于Kafka的数据库海量账户流水数据写入方法,包括以下步骤:配置用于监听数据变更事件的主数据库和数据同步工具,并建立自建应用服务;主数据库根据写请求生成binlog信息,并将binlog信息写入Kafka消息队列;自建应用服务消费binlog信息,解析并获得数据变更事件;根据数据变更事件计算出从数据库中的路由分片并处理交易信息,且从数据库中按照时间配置多级热数据集和一个全量数据集,每级热数据集和全量数据集基于用户ID编号分片存储对应数据。本发明通过在主数据库进行写操作,在从数据库进行读操作实现降低主数据库查询压力,通过时间进行分级降低用户查询的数据量,通过用户ID编号分片,缩减数据检索范围,优化查询效率。
主权项:1.一种基于Kafka的数据库海量账户流水数据写入方法,其特征在于,包括以下步骤:配置用于监听数据变更事件的主数据库和数据同步工具,并建立自建应用服务;在接收客户端应用服务的写请求时,所述主数据库根据所述写请求生成binlog信息,并将所述binlog信息写入Kafka消息队列中;所述自建应用服务通过Kafka的consumerAPI从Kafka主题中消费所述binlog信息,解析并获得数据变更事件,所述数据变更事件包含时间信息和用户ID编号信息;根据所述数据变更事件的时间信息和或用户ID编号信息计算出从数据库中的路由分片并处理交易信息,其中,所述从数据库中按照时间配置多级热数据集和一个全量数据集,每级所述热数据集和所述全量数据集中基于所述用户ID编号分片存储对应数据。
全文数据:
权利要求:
百度查询: 杭州乒乓智能技术有限公司 一种基于Kafka的数据库海量账户流水数据写入和查询方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。