首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

模型参数的调度方法及装置 

申请/专利权人:苏州元脑智能科技有限公司

申请日:2024-04-29

公开(公告)日:2024-06-28

公开(公告)号:CN118133928B

主分类号:G06N3/084

分类号:G06N3/084;G06N3/063;G06N3/0499;G06F9/50

优先权:

专利状态码:有效-授权

法律状态:2024.06.28#授权;2024.06.21#实质审查的生效;2024.06.04#公开

摘要:本申请实施例提供了一种模型参数的调度方法及装置,其中,该方法包括:接收所述第二处理器输出的多个所述模型参数中每个所述模型参数的目标参数值;根据所述算力模型在候选训练轮次的参数调用信息预测每个所述模型参数在所述当前训练轮次的参数调用时间;根据所述参数调用时间和所述调度器对所述模型参数的调度时延确定所述模型参数的参数发送时间;按照所述参数发送时间将所述目标参数值发送至所述第一处理器。通过本申请,解决相关技术中对算力模型的训练效率较低的问题,达到提高对算力模型的训练效率效果。

主权项:1.一种模型参数的调度方法,其特征在于,所述方法应用于调度器,所述调度器连接在第一处理器和第二处理器之间,待训练的算力模型被部署在所述第一处理器上,所述调度器用于对所述第二处理器为所述算力模型提供的模型参数向所述第一处理器进行调度传输,所述方法包括:接收所述第二处理器输出的多个所述模型参数中每个所述模型参数的目标参数值,其中,所述目标参数值为所述第二处理器根据所述算力模型在当前训练轮次之前的参考训练轮次的输出结果对参考参数值进行更新得到的,所述参考参数值为所述算力模型的所述模型参数在所述参考训练轮次开始时所具有的参数值;根据所述算力模型在候选训练轮次的参数调用信息预测每个所述模型参数在所述当前训练轮次的参数调用时间,其中,所述参数调用信息用于指示模型训练过程中所述算力模型对所述模型参数的调用情况,所述候选训练轮次为所述当前训练轮次之前已经完成的模型训练轮次;根据所述参数调用时间和所述调度器对所述模型参数的调度时延确定所述模型参数的参数发送时间;按照所述参数发送时间将所述目标参数值发送至所述第一处理器,其中,所述第一处理器用于使用所述目标参数值对所述模型参数的参考参数值进行更新,得到更新后的所述算力模型,并对更新后的所述算力模型执行所述当前训练轮次的模型训练操作。

全文数据:

权利要求:

百度查询: 苏州元脑智能科技有限公司 模型参数的调度方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。