买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国联合网络通信集团有限公司

摘要：本发明提供一种降低AI算力集群能耗的方法、装置及存储介质，该方法包括：根据计算任务所需的AI算力为计算任务派发多个AI加速芯片；从多个AI算力服务器中获取需要节能管控的至少一个目标AI算力服务器；通过分布式计算的方式获取至少一个目标AI算力服务器中各个目标AI算力服务器能耗最优的AI加速芯片运行时钟频率，得到时钟频率的粗略估计；针对每个目标AI算力服务器，获取计算任务中待计算的AI模型对应的AI加速芯片单卡能耗最低时的目标参数，并根据目标参数对粗略估计进行微调，得到微调后的精细估计。该方法、装置及介质能够解决现有的AI算力集群在执行AI计算时可能由于木桶效应使得整体集群做无效的空转、能耗增大、进而造成能耗浪费的问题。

主权项：1.一种降低人工智能AI算力集群能耗的方法，其特征在于，所述方法包括：根据计算任务所需的AI算力为所述计算任务派发多个AI加速芯片，所述多个AI加速芯片位于AI算力集群中的多个AI算力服务器上；从多个AI算力服务器中获取需要节能管控的至少一个目标AI算力服务器；通过分布式计算的方式获取所述至少一个目标AI算力服务器中各个所述目标AI算力服务器能耗最优的AI加速芯片运行时钟频率，得到时钟频率的粗略估计；针对每个所述目标AI算力服务器，获取所述计算任务中待计算的AI模型对应的AI加速芯片单卡能耗最低时的目标参数，并根据所述目标参数对所述粗略估计进行微调，得到微调后的精细估计；根据所述精细估计调整每个所述目标AI算力服务器的AI加速芯片的时钟频率，并使各个所述目标AI算力服务器对所述待计算的AI模型进行训练；以及，在各个所述目标AI算力服务器对所述待计算的AI模型进行训练的过程中，根据各个所述目标AI算力服务器之间的网络状态动态调整相应目标AI算力服务器上的AI加速芯片的时钟频率；所述目标参数包括数据集批量大小、并行读取数据的线程数目以及学习率；所述获取所述计算任务中待计算的AI模型对应的AI加速芯片单卡能耗最低时的目标参数，具体包括：从所述计算任务中的待训练的数据中获取少量数据作为第二训练数据集；将所述第二训练数据集分配到所述目标AI算力服务器的多个所述AI加速芯片上，以使所述目标AI算力服务器中的多个所述AI加速芯片分别采用不同的数据集批量大小、并行读取数据的线程数目以及学习率对所述待计算的AI模型进行预训练，直到找到AI加速芯片单卡能耗最低时的数据集批量大小、并行读取数据的线程数目以及学习率。

全文数据：

权利要求：

百度查询： 中国联合网络通信集团有限公司 一种降低AI算力集群能耗的方法、装置及存储介质