买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜长沙理工大学申请的专利一种人工智能系统中流水行并行的GPU配置方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115033388B 。

龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210797455.5，技术领域涉及：G06F9/50；该发明授权一种人工智能系统中流水行并行的GPU配置方法及系统是由胡晋彬;贺蔓;刘颖;王进设计研发完成，并于2022-07-08向国家知识产权局提交的专利申请。

本一种人工智能系统中流水行并行的GPU配置方法及系统在说明书摘要公布了：本发明公开了一种人工智能系统中流水行并行的GPU配置方法及系统，其针对共享GPU集群，并应用于神经网络分布式训练。为了解决共享GPU集群下流水行并行中GPU分配方案固定不变而导致无法动态调节GPU配置的问题，所述方法在下一次的训练之前，根据静态指标、动态指标得到若干新工作分区，在动态指标中加入GPU的可用带宽，使得新工作分区能反应GPU的动态可用资源；再引入了元网络预测每个工作分区的训练速度来筛选工作分区，及引入强化学习来判断是否更新当前的工作分区，通过上述GPU配置方法得到的工作分区能适应于GPU的动态可用资源，更合理的进行分布式训练，有效提高GPU资源利用率以及保证后续神经网络的训练效率。

本发明授权一种人工智能系统中流水行并行的GPU配置方法及系统在权利要求书中公布了：1.一种人工智能系统中流水行并行的GPU配置方法，其特征在于：所述GPU配置方法是基于共享GPU集群用于在神经网络的下一次训练之前更新或是维持当前的GPU与网络层的配置关系，所述神经网络被划分为多个网络层，所述GPU集群中存在共享GPU，所述GPU配置方法包括以下步骤：步骤1：获取分布式训练系统中当前的静态指标和动态指标；其中，所述分布式训练系统采用流水行并行，其为神经网络的每一个网络层配置GPU，同一个GPU负责一个或多个网络层训练，所述静态指标包括：神经网络的网络层数、GPU数量以及每个网络层的训练特征；所述动态指标包括：每个GPU的可用带宽、每个GPU负责的所在网络层的前向传播时间和后向传播时间；步骤2：依据所述静态指标、动态指标生成若干新工作分区；其中，工作分区表示GPU与网络层之间的配置关系；步骤3：将所述静态指标、动态指标、新工作分区作为输入，利用工作分区训练速度预测模型得到每个新工作分区对应的训练速度预测值；步骤4：基于每个新工作分区的训练速度预测值以及每个新工作分区中配置关系发生变化的GPU数量筛选新工作分区；步骤5：将所述静态指标、动态指标、筛选后的新工作分区以及当前的工作分区作为输入，利用基于强化学习的筛选模型确定是否替换当前的工作分区，即更新或维持当前的GPU与网络层的配置关系。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人长沙理工大学，其通讯地址为：410114 湖南省长沙市天心区万家丽南路二段960号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。