首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

多语言机器翻译模型的参数分配方法、装置、设备和介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:鹏城实验室

摘要:本申请提供了一种多语言机器翻译模型的参数分配方法、装置、设备和介质,方法包括:对多语言机器翻译模型的每个语言方向,基于预设语言数据集进行参数调整,得到模型参数绝对值排序;进行联合参数调整,得到各语言方向的方向梯度,根据方向梯度确定平均梯度及第一相似系数,进而确定方向剪枝率;通过迭代联合参数调整,根据第二相似系数调整方向剪枝率,得到目标剪枝率,并根据目标剪枝率和绝对值排序对每个语言方向的模型参数进行剪枝处理,其中,本申请可以基于各方向梯度与平均梯度之间的一致性,动态调试各方向的剪枝率,以实现各方向的参数分配优化,有效促进跨语言知识的正向迁移,抑制负向迁移,进而提高模型的整体翻译性能。

主权项:1.一种多语言机器翻译模型的参数分配方法,其特征在于,包括:基于预设的语言对数据集分别对多语言机器翻译模型的每个语言方向进行参数调整处理,得到每个所述语言方向下多个模型参数的绝对值排序;基于所述语言对数据集对所述多语言机器翻译模型的各所述语言方向进行联合参数调整处理,得到每个所述语言方向的方向梯度;根据每个所述语言方向的方向梯度确定语言方向平均梯度,并确定每个所述语言方向的方向梯度与所述语言方向平均梯度之间对应的第一相似系数;分别根据每个所述第一相似系数确定对应的语言方向的方向剪枝率;对所述多语言机器翻译模型进行迭代的联合参数调整处理,并根据每次迭代得到的各语言方向的第二相似系数迭代调整所述方向剪枝率,得到每个语言方向的目标剪枝率;分别在每个所述语言方向下,根据所述目标剪枝率和所述绝对值排序对所述多个模型参数进行剪枝处理。

全文数据:

权利要求:

百度查询: 鹏城实验室 多语言机器翻译模型的参数分配方法、装置、设备和介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。