申请/专利权人：哈尔滨工业大学(威海)

申请日：2024-04-01

公开（公告）日：2024-06-21

公开（公告）号：CN117974867B

主分类号：G06T15/00

分类号：G06T15/00;G06V20/40;G06V40/16;G06V10/774;G06V10/82

优先权：

专利状态码：有效-授权

法律状态：2024.06.21#授权;2024.05.21#实质审查的生效;2024.05.03#公开

摘要：一种基于高斯点渲染的单目人脸化身生成方法，包括以下步骤：从单目人像视频中提取FLAME的表情参数和姿态参数；定义初始化空间、标准空间、形变空间；从点在形变空间与初始化空间的位置信息，获取点在形变空间中的高斯参数；将点在形变空间中的高斯参数输入渲染器，并渲染图像；将渲染图像与输入单目人像视频做图像损失，通过最小化该约束进行训练；每次训练迭代中加入增删点策略以实现点数增加；通过驱动视频对训练好的特定人物化身进行驱动。本发明设计迭代优化的策略，以及高斯点云的增删点策略，利用高斯抛雪球渲染器的渲染速度和渲染质量，通过预训练的线性混合蒙皮函数引导高斯参数网络和点的形变网络的训练，提高人像化身的生成质量。

主权项：1.一种基于高斯点渲染的单目人脸化身生成方法，其特征在于：包括以下步骤：步骤一、将单目人像训练集的数据输入FLAME拟合网络，预测得到对应图像的人脸表情参数和姿态参数；步骤二、设定初始化点的数量，在空间中随机初始化点的位置，并将此空间定义为初始化空间；步骤三、从初始化点的空间位置预测出高斯参数以及点的偏移量，并将偏移量与对应点的位置相加，得到新的位置，将此阶段定义为标准空间；具体为：根据点在初始化空间中的位置，通过多层感知机网络预测出每个点的高斯参数：点的高斯参数定义为：，其中，为初始化空间中高斯点的位置，为初始化空间中高斯点的旋转系数，为初始化空间中高斯点的缩放系数，为初始化空间中高斯点的可见系数，为初始化空间中高斯点的颜色参数；预测过程定义为：；对每一个点加上一个可学习的偏移量，将高斯点的位置信息转化到标准空间：,其中，为多层感知机；步骤四、将标准空间中的点的位置输入预先学习好的线性混合蒙皮函数中得到形变后的点：，并将此阶段定义为形变空间；其中，LBS为预训练的线性混合蒙皮函数，和为人头模型的姿态基和表情基，为混合蒙皮权重，和为输出姿势和表情的线性混合蒙皮，和为姿态系数和表情系数；步骤五、将形变空间中的点的位置与初始化空间中点的位置作差，输入高斯形变场中，得到高斯参数形变量，从而得到形变空间中的高斯参数；该过程通过输入形变空间中的点的位置与初始化空间中点的位置到多层感知机，输出高斯点在形变空间中的高斯参数： ；其中，为由多层感知机构成的高斯形变场，为预测得到的高斯形变量，表示形变空间中高斯点的高斯参数；形变空间中的高斯点表示为：；步骤六、以形变空间中高斯点作为输入，并通过高斯抛雪球渲染器渲染得到预测图像： ；其中，是标准的函数；是高斯点的协方差矩阵，它是由缩放矩阵和旋转矩阵构成的；视角转换矩阵和投影转换映射雅格比矩阵可以将协方差矩阵从三维世界坐标转化到二维相机坐标，即协方差矩阵；是每一个高斯点对像素的影响；表示透射率项；步骤七、将渲染图像与输入单目人像视频做图像损失，并结合FLAME损失和图像感知损失，通过最小化图像损失、FLAME损失和图像感知损失加权后的和进行训练；步骤八、每次训练迭代中加入增删点策略以实现点数增加，具体为：定义一个随训练周期减少的渲染半径和采样半径以及一个随周期增加的点数目；每周期删去不符合要求的点，并将点补至设定点数；每隔预定数量周期更新点数目，渲染半径和采样半径；步骤九、将驱动视频中提取到的FLAME参数输入训练好的网络，得到点位置和与之对应的高斯参数，并输入高斯抛雪球渲染器中，得到对应的特定人物化身驱动动作以及其渲染图像。

全文数据：

权利要求：

百度查询： 哈尔滨工业大学(威海) 一种基于高斯点渲染的单目人脸化身生成方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD