首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种Spark JDBC的事务处理方法和装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:武汉达梦数据技术有限公司

摘要:本发明涉及数据库技术领域,提供了一种SparkJDBC的事务处理方法和装置。其中将分区实时读取到的数据存储到目标缓存中;每当目标缓存中的数据量达到预设条件时,则进行一次事务提交,所述事务提交用于将目标缓存中的数据写入到数据库中;若目标缓存中的数据量未达到预设条件,则等待分区读取数据完成后再进行事务提交;当事务提交出现异常时,选择终止分区读取数据的过程,或令分区继续读取数据。本发明减少了SparkJDBC的资源占用,使SparkJDBC在资源匮乏情况下能够平稳运行。

主权项:1.一种SparkJDBC的事务处理方法,其特征在于,包括:将分区实时读取到的数据存储到目标缓存中;每当目标缓存中的数据量达到预设条件时,则进行一次事务提交,所述事务提交用于将目标缓存中的数据写入到数据库中;若目标缓存中的数据量未达到预设条件,则等待分区读取数据完成后再进行事务提交;当事务提交出现异常时,选择终止分区读取数据的过程,或令分区继续读取数据;所述每当目标缓存中的数据量达到预设条件时,则进行一次事务提交,具体包括:若用户设置了第一阈值时,判断所述目标缓存中的数据的条数是否达到所述第一阈值,若所述目标缓存中的数据的条数达到所述第一阈值,则将所述目标缓存中的数据写入到数据库中;若用户未设置第一阈值时,根据所述目标缓存中的数据的条数和所述目标缓存中的大字段数据的数量,判断是否进行事务提交;所述根据目标缓存中的数据的条数和所述目标缓存中的大字段数据的数量,判断是否提交事务,具体包括:若所述目标缓存中的数据的条数达到第二阈值,则将所述目标缓存中的数据写入到数据库中;若所述目标缓存中的大字段数据的数量达到大字段数量阈值,则将所述目标缓存中的数据写入到数据库中;否则,若所述目标缓存中的数据的条数占所述第二阈值的比值与目标缓存中的大字段数据占所述大字段数量阈值的比值的和大于等于预设总阈值,则将所述目标缓存中的数据写入到数据库中,否则,不进行事务提交。

全文数据:

权利要求:

百度查询: 武汉达梦数据技术有限公司 一种Spark JDBC的事务处理方法和装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。