龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：中国联合网络通信集团有限公司
申请日：2024-03-26
公开（公告）日：2024-06-28
公开（公告）号：CN118259716A
主分类号：G06F1/06
分类号：G06F1/06;G06F1/3293
优先权：
专利状态码：在审-公开
法律状态：2024.06.28#公开
摘要：本发明提供一种降低AI算力集群能耗的方法、装置及存储介质，该方法包括：根据计算任务所需的AI算力为计算任务派发多个AI加速芯片；从多个AI算力服务器中获取需要节能管控的至少一个目标AI算力服务器；通过分布式计算的方式获取至少一个目标AI算力服务器中各个目标AI算力服务器能耗最优的AI加速芯片运行时钟频率，得到时钟频率的粗略估计；针对每个目标AI算力服务器，获取计算任务中待计算的AI模型对应的AI加速芯片单卡能耗最低时的目标参数，并根据目标参数对粗略估计进行微调，得到微调后的精细估计。该方法、装置及介质能够解决现有的AI算力集群在执行AI计算时可能由于木桶效应使得整体集群做无效的空转、能耗增大、进而造成能耗浪费的问题。
主权项：1.一种降低人工智能AI算力集群能耗的方法，其特征在于，所述方法包括：根据计算任务所需的AI算力为所述计算任务派发多个AI加速芯片，所述多个AI加速芯片位于AI算力集群中的多个AI算力服务器上；从多个AI算力服务器中获取需要节能管控的至少一个目标AI算力服务器；通过分布式计算的方式获取所述至少一个目标AI算力服务器中各个所述目标AI算力服务器能耗最优的AI加速芯片运行时钟频率，得到时钟频率的粗略估计；针对每个所述目标AI算力服务器，获取所述计算任务中待计算的AI模型对应的AI加速芯片单卡能耗最低时的目标参数，并根据所述目标参数对所述粗略估计进行微调，得到微调后的精细估计；根据所述精细估计调整每个所述目标AI算力服务器的AI加速芯片的时钟频率，并使各个所述目标AI算力服务器对所述待计算的AI模型进行训练；以及，在各个所述目标AI算力服务器对所述待计算的AI模型进行训练的过程中，根据各个所述目标AI算力服务器之间的网络状态动态调整相应目标AI算力服务器上的AI加速芯片的时钟频率。
全文数据：
权利要求：
百度查询： 中国联合网络通信集团有限公司 一种降低AI算力集群能耗的方法、装置及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号