首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种分布式计算引擎使用动态用户访问S3对象存储的方法及装置 

申请/专利权人:广州市品高软件股份有限公司

申请日:2021-02-24

公开(公告)日:2024-06-25

公开(公告)号:CN112817997B

主分类号:G06F16/23

分类号:G06F16/23;G06F16/28;G06F21/31;G06F21/62

优先权:

专利状态码:有效-授权

法律状态:2024.06.25#授权;2021.06.04#实质审查的生效;2021.05.18#公开

摘要:本发明提供了一种动态用户访问S3对象存储的方法及装置,包括:用户体系映射配置库管理单元、计算引擎与配置库连接单元、S3用户信息获取单元、访问S3服务用户身份动态更改单元。采用计算引擎用户体系与S3对象存储用户体系映射的方式,在用户登录hivespark计算引擎,使用外部表访问S3数据时,自动获取登录用户信息,在连接S3对象存储服务时,动态修改连接身份信息,解决了只能在配置文件配置固定用户的问题,并且满足了修改S3用户身份配置时,不重启服务自动生效的要求,大大提升计算引擎访问对象存储数据的灵活性、动态性、安全性和可用性,保证hivespark计算引擎服务的稳定运行,为对象存储多场景下的数据利用提供有效支撑。

主权项:1.一种分布式计算引擎使用动态用户访问S3对象存储的装置,其特征在于:所述装置包括用户体系映射配置库管理单元、计算引擎与配置库连接单元、S3用户信息获取单元、访问S3服务用户身份动态更改单元,其中:所述用户体系映射配置库管理单元,负责维护hivespark用户体系与S3用户体系的映射管理;所述计算引擎与配置库连接单元,负责hivespark服务启动时,获取配置库的连接信息,打开与配置库的连接通道;所述S3用户信息获取单元,负责在用户登录hivespark服务时,解析当前登录的用户信息,获取与该用户映射的S3用户的身份信息;用户登录hivespark计算引擎,输入用户账号,用户密码登录信息;在登录过程中,hivespark计算引擎验证用户输入的登录信息正确后,拦截所述登录信息,解析登录用户ID;连接配置库,使用登录用户ID判断S3用户体系映射表是否存在该用户ID,获取映射的S3用户信息;如果用户ID存在,则返回该用户的S3用户账号、fs.s3n.awsAccessKeyId、fs.s3n.awsSecretAccessKey信息,并写入hivespark计算引擎运行时缓存;如果用户ID不存在,则抛出异常信息,用户登录失败;所述访问S3服务用户身份动态更改单元,负责在使用hivespark的外部表访问S3服务时,拦截访问S3服务入口,更改正确的S3用户身份信息,再继续访问S3服务;用户进入hivespark服务后,创建S3外部表指定S3文件路径,执行查询、统计SQL脚本,都将访问S3服务;在hivespark请求S3服务数据的入口方法设置拦截;使用映射的S3用户信息获取单元中缓存的S3用户身份信息,变更请求身份验证参数;使用变更后的S3用户身份信息,继续请求S3服务数据;返回所述请求,从所述S3服务中获取到外部表指定S3文件路径的数据内容;在hivespark计算引擎,完成用户执行的SQL脚本,返回数据结果。

全文数据:

权利要求:

百度查询: 广州市品高软件股份有限公司 一种分布式计算引擎使用动态用户访问S3对象存储的方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。