龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：山东大学;长春吉大正元信息技术股份有限公司
申请日：2024-04-02
公开（公告）日：2024-06-28
公开（公告）号：CN118262397A
主分类号：G06V40/16
分类号：G06V40/16;G06V10/44;G06V10/82;G06V10/80;G06V10/62;G06N3/045;G06N3/0464;G06V20/40
优先权：
专利状态码：在审-公开
法律状态：2024.06.28#公开
摘要：本发明涉及一种基于多模态双分支时空特征融合的微表情识别方法，包括数据集预处理、多模态特征提取、多模态共同注意融合和分类识别；本发明结合Transformer具有全局长距离建模的特点，通过编码器对面部光流图进行全局建模学习面部运动单元的关系，通过3D卷积模块提取起始帧与高潮帧之间时空细粒度特征，之后两种模态特征在双分支共同注意模块下匹配融合，从而在有限的样本下学习到更丰富的微表情运动特征。
主权项：1.一种基于多模态双分支时空特征融合的微表情识别方法，其特征在于，包括步骤如下：A、对微表情视频进行预处理，包括获取视频帧序列、人脸检测与定位、人脸对齐、构建起始帧与高潮帧、构建起始帧与高潮帧之间的光流运动图；B、将步骤A预处理后所得到的起始帧与高潮帧，以及起始帧与高潮帧对应的光流运动图划分为测试集和训练集；C、构建基于多模态双分支时空运动特征融合识别模型，所述基于多模态双分支时空运动特征融合识别模型包括三维卷积残差网络、Transformer特征编码器和双分支共同注意模块，所述三维卷积残差网络对起始帧与高潮帧提取时空细粒度特征，所述Transformer特征编码器对光流运动图提取面部运动特征，所述双分支共同注意模块对时空特征和面部运动在通道和空间维度进行匹配融合；D、构建多类焦点损失函数，利用多类焦点损失函数训练基于多模态双分支时空运动特征融合识别模型；E、分类识别，将待识别的微表情视频预处理后输入至步骤D训练好的基于多模态双分支时空运动特征融合识别模型，进行分类识别。
全文数据：
权利要求：
百度查询： 山东大学;长春吉大正元信息技术股份有限公司 一种基于多模态双分支时空运动特征融合的微表情识别方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号