申请/专利权人:贝壳找房(北京)科技有限公司
申请日:2022-10-25
公开(公告)日:2023-02-24
公开(公告)号:CN115713579A
主分类号:G06T13/00
分类号:G06T13/00;G06T11/00;G06T7/00;G06N3/0464;G06N3/08
优先权:
专利状态码:在审-实质审查的生效
法律状态:2023.03.14#实质审查的生效;2023.02.24#公开
摘要:本发明实施方式公开了一种Wav2Lip模型训练方法、图像帧生成方法、电子设备及存储介质。方法包括:确定训练样本,训练样本包括原始图像帧、真实图像帧和音频文件,原始图像帧包含说话者的人脸,真实图像帧包含说话者表述音频文件的真实唇形;基于训练样本执行Wav2Lip模型的训练过程,训练过程包括:Wav2Lip模型基于原始图像帧和音频文件输出生成图像帧;将生成图像帧和真实图像帧输入多尺度的图像质量判别器,以由图像质量判别器在多个尺度上判别生成图像帧和真实图像帧是否为真实图像;基于判别结果,确定Wav2Lip模型的损失函数值;配置Wav2Lip模型的模型参数,以使损失函数值低于预设阈值。本发明实施方式可以提高图像质量和训练稳定性。
主权项:1.一种Wav2Lip模型的训练方法,其特征在于,所述方法包括:确定训练样本,所述训练样本包括原始图像帧、真实图像帧和音频文件,所述原始图像帧包含说话者的人脸,所述真实图像帧包含所述说话者表述所述音频文件的真实唇形;基于所述训练样本,执行所述Wav2Lip模型的训练过程,所述训练过程包括:将所述原始图像帧和所述音频文件输入所述Wav2Lip模型,以由所述Wav2Lip模型基于所述原始图像帧和所述音频文件输出生成图像帧;将所述生成图像帧和所述真实图像帧输入多尺度的图像质量判别器,以由所述多尺度的图像质量判别器在多个尺度上判别所述生成图像帧和所述真实图像帧是否为真实图像;基于所述多尺度的图像质量判别器的判别结果,确定所述Wav2Lip模型的损失函数值;配置所述Wav2Lip模型的模型参数,以使所述损失函数值低于预设阈值。
全文数据:
权利要求:
百度查询: 贝壳找房(北京)科技有限公司 Wav2Lip模型训练方法、图像帧生成方法、电子设备及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。