买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：杭州一知智能科技有限公司

摘要：本发明公开了一种数字人口型合成中多任务实时抠图方法及系统，属于图像合成技术领域。包括：获取指定文案的完整口播视频作为历史视频，并获得历史视频的音频数据、RGB口型图片和alpha通道图片；获取音频特征及两张人脸区域图片并对齐；对音频特征和RGB口型图片的人脸区域图片均进行特征提取并将结果进行特征融合；构建多任务人脸图像生成模型，基于特征融合结果获得预训练的模型；利用预训练的模型对待生成人脸图像的音频进行处理，得到对应的RGB口型图片和alpha通道图片，基于该alpha通道图片对该RGB口型图片进行抠图，完成抠图。本发明在输出口型图片的同时一并输出对应的alpha通道图片，不需要进行二次抠图。

主权项：1.一种数字人口型合成中多任务实时抠图方法，其特征在于，包括以下步骤：1）获取指定文案的完整口播视频作为历史视频，并获得历史视频的音频数据、RGB口型图片和alpha通道图片；2）获取所述音频数据的音频特征以及RGB口型图片和alpha通道图片各自对应的人脸区域图片，将音频特征和两个人脸区域图片进行对齐；对对齐后的音频特征和RGB口型图片对应的人脸区域图片分别进行特征提取，将两个结果进行特征融合；3）构建多任务人脸图像生成模型，将特征融合结果输入到所述模型中，获得第一RGB口型图片和第一alpha通道图片，根据第一RGB口型图片和第一alpha通道图片更新所述模型的参数，获得预训练的模型；4）利用预训练的模型对待生成人脸图像的音频进行处理，得到对应的RGB口型图片和alpha通道图片，基于该alpha通道图片对该RGB口型图片进行抠图，完成抠图；步骤3）中，所述多任务人脸图像生成模型为基于Transformer和CNN的GAN网络，所述多任务人脸图像生成模型包括生成器模块和判别器模块，所述生成器模块包括一层Transformer网络、一层由CNN构成的Resnet网络和一个多任务网络，特征融合结果输入至所述Transformer网络，得到第一结果并输入至所述Resnet网络，Resnet网络输出第二结果至多任务网络，所述多任务网络包括两个CNN卷积神经网络，第二结果分别输入至两个CNN卷积神经网络，多任务网络输出第一RGB口型图片和第一alpha通道图片至判别器模块，同时输入对齐后的alpha通道图片对应的人脸区域图片至判别器模块，所述判别器模块基于第一RGB口型图片、第一alpha通道图片、对齐后的RGB口型图片对应的人脸区域图片和alpha通道图片对应的人脸区域图片利用损失函数计算损失，更新所述模型的参数，获得预训练的多任务人脸图像生成模型；所述判别器模块为PatchGan中的判别器网络结构；所述损失为： ； ；其中，是对齐后的alpha通道图片对应的人脸区域图片的alpha通道数据；为设置后的alpha通道数据；为第一alpha通道图片的alpha通道数据；是超参数。

全文数据：

权利要求：

百度查询： 杭州一知智能科技有限公司 一种数字人口型合成中多任务实时抠图方法及系统