龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：银河麒麟软件(长沙)有限公司
摘要：本发明公开了一种面向K8s的多机多卡GPU最优通信调度方法和系统，方法包括：在用户启动包含容器组pod的AI训练任务后，通过kube‑scheduler调度器首先为各个容器组pod分配满足GPU资源请求的计算节点，然后再结合计算节点间的GPU拓扑数据与计算节点内的GPU拓扑数据进行最优GPU通信组合分配，并将GPU分配结果写入到容器组pod的元数据中保存；各个计算节点的kubelet组件在监听到有容器组调度过来时，直接根据写入到容器组pod的元数据中的GPU分配结果来为容器组分配GPU并启动容器组pod执行AI训练任务。本发明能够充分发挥GPU集群的计算能力，加速AI训练任务的训练过程。
主权项：1.一种面向K8s的多机多卡GPU最优通信调度方法，其特征在于，包括下述步骤：在用户启动包含容器组pod的AI训练任务后，通过kube-scheduler调度器首先为各个容器组pod分配满足GPU资源请求的计算节点，然后再结合计算节点间的GPU拓扑数据与计算节点内的GPU拓扑数据进行最优GPU通信组合分配，并将GPU分配结果写入到容器组pod的元数据中保存，结合计算节点间的GPU拓扑数据与计算节点内的GPU拓扑数据进行最优GPU通信组合分配包括：若有容器组pod未完成计算节点的分配，对每个已完成计算节点的分配的容器组pod选择含NV连接数最多的GPU作为该容器组pod的GPU分配结果；若所有容器组pod均完成计算节点的分配，根据节点内的GPU拓扑数据，为容器组pod选择一个与已经调度的容器组pod所分配的GPU通信性能最好的GPU作为该容器组pod的GPU分配结果；各个计算节点的kubelet组件在监听到有容器组pod调度过来时，直接根据写入到容器组pod的元数据中的GPU分配结果来为容器组分配GPU并启动容器组pod执行AI训练任务。
全文数据：
权利要求：
百度查询： 银河麒麟软件(长沙)有限公司 面向K8s的多机多卡GPU最优通信调度方法和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号