Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于动量更新的多任务小粒度权重平均方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:北京科技大学;中国科学院过程工程研究所

摘要:本发明涉及通讯信号跟踪控制领域,特别涉及一种基于动量更新的多任务小粒度权重平均方法及系统。方法包括:依据原始多任务学习模型,对每个任务在每个训练批次计算预测输出与真值的损失值,通过计算前两个批次的损失值的比率并进行归一化,得到当前批次的任务权重;使用动量策略结合当前批次的任务权重和前一批次的损失权重计算得到当前批次的损失权重;将当前批次的损失权重与该任务的损失值相乘并求和,获得最终损失值,用以优化多任务学习模型的参数;迭代多个批次直到最终损失值收敛,获得多任务学习模型。本发明提供的方法基于动量更新的多任务小粒度权重平均方法没有超参数,不需要根据任务类型手动调整参数,可方便移植到不同的数据上。

主权项:1.一种基于动量更新的多任务小粒度权重平均方法,其特征在于,所述方法包括:S1、基于原始多任务学习模型,获取每个任务k中每个训练批次t的预测输出与所述预测输出对应真值,基于所述预测输出和所述真值计算损失值;S2、从第三批次开始,在每个训练批次t中对所述每个任务k单独计算前两个批次的所述损失值和的比率;S3、将每个任务k的所述比率进行归一化,得到每个任务k在当前批次t中对应的任务权重;S4、对每个任务k,使用动量策略结合当前批次t的任务权重和前一批次的损失权重进行计算,得到当前批次t的损失权重;S5、将所述每个任务k在当前批次t的损失权重与该任务的损失值相乘并求和,获得最终损失值,并根据所述最终损失值优化预先构建的多任务学习模型的参数;重复执行S4-S5迭代多个批次,直到多任务学习模型的最终损失值收敛,获得最终可应用的新的多任务学习模型。

全文数据:

权利要求:

百度查询: 北京科技大学 中国科学院过程工程研究所 一种基于动量更新的多任务小粒度权重平均方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术