买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中债金科信息技术有限公司
摘要:本申请公开了一种面向应用的流式存储方法及装置,可以获取待存储数据流,并将待存储数据流包括的每个流存储至内存,内存包括块缓存、可变内存表和不可变内存表。待存储流在内存中的流转顺序依次为块缓存。可变内存表和不可变内存表,待存储数据流包括日志、指标或者调用日志中的其中一项或者多项;将不可变内存表中的数据刷到存储介质,并形成至少一个Segment存储于第一存储区域;将至少一个段Segment中每个段分别对应的存储区域的地址、每个段对应的键Key、以及每个段对应的段标识,存储至存储介质中的第二存储区域中。该方案可以避免重复写入的问题,并且可以支持顺序读取数据,从而提升了存储介质的访问性能。
主权项:1.一种面向应用观测的流式存储方法,其特征在于,所述方法包括:获取待存储数据流,并将所述待存储数据流包括的每个流存储至内存,所述内存包括块缓存blockcache、可变内存表ActiveMemtable和不可变内存表ImmutableMemtable,所述待存储数据流在内存中的流转顺序依次为blockcache、ActiveMemtable、ImmutableMemtable,所述待存储数据流包括日志log、指标Metrics或者调用日志Traces中的其中一项或者多项;将所述ImmutableMemtable的数据刷到存储介质,并形成至少一个Segment存储于第一存储区域;将所述至少一个Segment中每个Segment分别对应的存储区域的地址、所述每个Segment对应的键Key、以及所述每个Segment对应的Segment标识,存储至所述存储介质中的第二存储区域中;所述第一存储区域采用分层、分片结构;所述分层是指将第一存储区域划分为多个级Level,Level级数与该Level存储的数据的热度反相关,所述至少一个Segment存储在所述多个Level中的至少一个Level中;不同Level级采用不同的存储介质,Level级数与存储介质的价格反相关,以实现持久化存储、长期存储在不影响查询性能的前提下的混合部署;所述分片是指不同存储数据流Stream的数据以段Segment为单位分布在不同Level,一个Stream包含多个Segment,每个Level中包括一个Stream对应的多个Segment,其中,一个或多个存储数据流Stream形成了独立的对象集合Schema,不同Schema对应不同维度的观测数据,所述Schema由用户定义。
全文数据:
权利要求:
百度查询: 中债金科信息技术有限公司 一种面向应用观测的流式存储方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。