买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：吉林大学

摘要：本发明公开了一种基于多模态的审讯对象情绪变化的识别方法，包括：获取审讯对象审讯的原始音频和原始视频；对原始音频和原始视频分别分割为多个等时长的音频片段和视频片段，并将音频片段和与其时刻对齐的视频片段作为一个片段组，得到多个时刻对齐的片段组；对每个片段组中的音频片段和视频片段分别进行特征提取，得到各片段组的语音特征向量和视频特征向量；采用基于注意力机制的多模态融合方法对同一个片段组的语音特征向量和视频特征向量进行融合，得到每个片段组的融合特征向量；对每个片段组的融合特征向量进行情绪识别，并对相邻两个片段组的情绪识别结果进行对比，得到审讯对象的情绪变化识别结果。

主权项：1.一种基于多模态的审讯对象情绪变化的识别方法，其特征在于，包括如下步骤：步骤一、获取审讯对象审讯的原始音频和原始视频；步骤二、将所述原始音频和所述原始视频分别分割为多个等时长的音频片段和视频片段，并将音频片段和与其时刻对齐的视频片段作为一个片段组，得到多个时刻对齐的片段组；步骤三、对每个片段组中的音频片段和视频片段分别进行特征提取，得到各片段组的语音特征向量和视频特征向量；其中，从所述片段组中的视频片段中截取出居中的6帧图像，并对所述6帧图像进行特征提取；所述语音特征向量包含语音特征时间信息，所述视频特征向量包含人脸图像特征信息；步骤四、采用基于注意力机制的多模态融合方法对同一个片段组的所述语音特征向量和视频特征向量进行融合，得到每个片段组的融合特征向量；所述基于注意力机制的多模态融合方法包括：构建基于transformer的交叉注意力机制的多模态融合策略模型，以音频特征向量和视频特征向量作为该模型的两个输入；将视频特征向量经过layerNorm层，得到；将音频特征特征向量经过layerNorm层，得到与；、和经多头交叉注意力机制得到输出特征向量；其中，,； ；式中，为视频特征向量，为视频查询向量，为音频特征向量，为音频键向量；为音频值向量；，，、为可学习的参数矩阵，，，为实矩阵集合，为音频特征集合维度，为值集合的维度，为键集合的维度；将视频查询向量与输出特征向量相加，并将相加结果正则化，得到正则化结果；将正则化结果进行前向传播后，得到前向传播结果；将所述正则化结果与所述前向传播结果相加，得到融合特征向量；步骤五、对每个片段组的融合特征向量进行情绪识别，并对相邻两个片段组的情绪识别结果进行对比，得到审讯对象的情绪变化识别结果。

全文数据：

权利要求：

百度查询： 吉林大学 一种基于多模态的审讯对象情绪变化的识别方法