恭喜北京中科智加科技有限公司陈玮获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜北京中科智加科技有限公司申请的专利一种基于多任务学习的多语种识别模型的构建和训练方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113889090B 。
龙图腾网通过国家知识产权局官网在2025-03-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111152422.7,技术领域涉及:G10L15/06;该发明授权一种基于多任务学习的多语种识别模型的构建和训练方法是由陈玮;冯少辉;张建业设计研发完成,并于2021-09-29向国家知识产权局提交的专利申请。
本一种基于多任务学习的多语种识别模型的构建和训练方法在说明书摘要公布了:本发明涉及一种多任务的语种识别的模型构建方法和训练方法,包括:使用无监督预训练方式对wav2vec模型进行第一次预训练;根据包括语种识别和数据有效识别在内的任务要求建立包含多语种样本数据的训练样本集;采用训练样本集中的样本数据对第一次预训练好的wav2vec模型再进行第二次预训练;针对于所述任务要求对第二次预训练好的wav2vec模型进行适应性微调后构建出最终的多语种识别模型;再次采用训练样本集中样本数据对所述多语种识别模型进行训练,使多语种识别模型能够同时识别输入语音数据的语种和话音有效性。本发明实现了对语种识别和有效话音识别两种任务的同时识别,提高了语种识别的准确率和识别效率。
本发明授权一种基于多任务学习的多语种识别模型的构建和训练方法在权利要求书中公布了:1.一种基于多任务学习的多语种识别模型的构建和训练方法,其特征在于,包括以下步骤:使用无监督预训练方式对wav2vec模型进行第一次预训练;根据包括语种识别和数据有效识别在内的任务要求建立包含多语种样本数据的训练样本集;所述训练样本集的数据来源包括通话录音语音数据,所述通话录音语音数据包括多个语种的有效话音数据;还包括音频范围和特征与有效话音数据存在区别的无效话音数据;采用训练样本集中的样本数据对第一次预训练好的wav2vec模型再进行第二次预训练,获得针对多语种样本数据的一般表示;第二次预训练过程中不改动模型结构和损失函数,直到损失达到一个相对平衡的状态后结束训练;针对于所述任务要求对第二次预训练好的wav2vec模型进行适应性微调后构建出最终的多语种识别模型;进行适应性微调后构建出最终的多语种识别模型包括特征提取层、上下文编码层以及输出层;所述特征提取层采用第二次预训练好的wav2vec模型中的卷积网络;用于提取输入语音样本语音帧级别的浅层特征;所述上下文编码层用第二次预训练好的wav2vec模型中基于自注意力机制的transformer网络,用于提取语音各个帧间的权重和特征;基于语种识别和有效话音识别任务,对wav2vec模型输出层和损失函数进行调整,使用全连接网络将提取的权重和特征变换到对应任务的label维度,同时输出两个任务的识别结果;所述输出层包含1个softmax层和1个sigmoid层来分别预测语种类别和有效音类别;再次采用训练样本集中样本数据对所述多语种识别模型进行训练,使多语种识别模型能够同时识别输入语音数据的语种和话音有效性。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京中科智加科技有限公司,其通讯地址为:100083 北京市海淀区学院路51号10层1010、1011室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。