申请/专利权人:哈尔滨工业大学(威海)
申请日:2024-04-10
公开(公告)日:2024-05-10
公开(公告)号:CN118015162A
主分类号:G06T13/40
分类号:G06T13/40;G06N3/0455;G06N3/0464
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.05.28#实质审查的生效;2024.05.10#公开
摘要:本发明公开了一种基于语音韵律学分解的三维数字人头部动画生成方法,包括以下步骤:通过语言内容、风格和基础频率编码器分别提取音频中的三者相关的潜在变量;通过周期位置编码获得额外的时序信息,使用跨模态偏差多头自注意力模块增强对于长动作序列的泛化性能;计算跨模态的对齐偏差并通过多头注意力模块对齐多模态信息,实现三维数字人头部动画中的唇部动作生成;通过基于Transformer的动作变分自编码器将唇部动作序列映射到低维潜在空间,设计条件概率扩散模型实现基于基础频率的三维数字人头部动画中的头部动作生成。本发明更加深层次挖掘了语音中韵律部分同唇部动作的关系,实现了更加高效的唇部动作序列生成。
主权项:1.一种基于语音韵律学分解的三维数字人头部动画生成方法,其特征是,包括以下步骤:步骤一、通过语言内容、风格和基础频率编码器分别提取语言内容、风格和基础频率相关的潜在变量;步骤二、通过周期位置编码获得额外的时序信息,使用跨模态偏差多头自注意力模块增强对于长动作序列的泛化性能;步骤三、计算跨模态的对齐偏差并通过多头注意力模块对齐多模态信息,实现三维数字人头部动画中的唇部动作生成;步骤四、通过基于Transformer的动作变分自编码器将唇部动作序列映射到低维潜在空间;步骤五、设计条件概率扩散模型实现基于基础频率的三维数字人头部动画中的头部动作生成。
全文数据:
权利要求:
百度查询: 哈尔滨工业大学(威海) 一种基于语音韵律学分解的三维数字人头部动画生成方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。