龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：哈尔滨工业大学(威海)
申请日：2024-04-10
公开（公告）日：2024-06-14
公开（公告）号：CN118015162B
主分类号：G06T13/40
分类号：G06T13/40;G06N3/0455;G06N3/0464
优先权：
专利状态码：有效-授权
法律状态：2024.06.14#授权;2024.05.28#实质审查的生效;2024.05.10#公开
摘要：本发明公开了一种基于语音韵律学分解的三维数字人头部动画生成方法，包括以下步骤：通过语言内容、风格和基础频率编码器分别提取音频中的三者相关的潜在变量；通过周期位置编码获得额外的时序信息，使用跨模态偏差多头自注意力模块增强对于长动作序列的泛化性能；计算跨模态的对齐偏差并通过多头注意力模块对齐多模态信息，实现三维数字人头部动画中的唇部动作生成；通过基于Transformer的动作变分自编码器将唇部动作序列映射到低维潜在空间，设计条件概率扩散模型实现基于基础频率的三维数字人头部动画中的头部动作生成。本发明更加深层次挖掘了语音中韵律部分同唇部动作的关系，实现了更加高效的唇部动作序列生成。
主权项：1.一种基于语音韵律学分解的三维数字人头部动画生成方法，其特征是，包括以下步骤：步骤一、通过语言内容、风格和基础频率编码器分别提取语言内容、风格和基础频率相关的潜在变量；步骤二、前一帧的唇部动作编码结果同与当前帧唇部动作相关的语言内容和风格潜在编码一同送入周期位置编码模块获得额外的时序信息；时序信息将同前一帧唇部动作编码结果、语言内容及风格潜在编码一同被送入跨模态偏差多头自注意力模块以计算当前帧同之前唇部动作帧的相关性，将赋相邻帧以更高的权重增强对长动作序列的泛化能力；步骤三、加以权重后的当前帧唇部动作编码结果将同语言内容潜在编码再次结合连同对齐偏差送入多头注意力模块以计算相应权重对齐语言内容和唇部动作两种模态，获得对齐后的当前帧唇部动作编码；当前帧的唇部动作编码结果将通过动作解码器映射到三维空间实现三维数字人头部动画中的唇部动作生成；步骤四、通过基于Transformer的动作变分自编码器将唇部动作序列映射到低维潜在空间；步骤五、唇部动作序列的潜在编码将连接韵律学分解后的基础频率潜在编码送入条件扩散概率模型获得带有唇部、头部动作序列的潜在编码；带有唇部、头部动作序列的潜在编码将送入动作变分自编码器实现带有唇部、头部动作的三维数字人头部动画生成。
全文数据：
权利要求：
百度查询： 哈尔滨工业大学(威海) 一种基于语音韵律学分解的三维数字人头部动画生成方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号