龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：山东大学
申请日：2021-12-01
公开（公告）日：2024-06-25
公开（公告）号：CN114187546B
主分类号：G06V20/40
分类号：G06V20/40;G06V40/20;G06V10/22;G06V10/46;G06V10/764
优先权：
专利状态码：有效-授权
法律状态：2024.06.25#授权;2022.04.01#实质审查的生效;2022.03.15#公开
摘要：本发明提供一种组合性动作识别方法及系统，属于计算机视觉技术领域，获取待识别的视频中包含的物体的几何位置信息；基于几何位置坐标获取各个物体的多模态特征；其中，多模态特征包括几何表征特征、视觉表征特征和运动流特征；根据所述多模态特征，得到表征各个物体间交互关系的特征向量；基于表征各个物体间交互关系的特征向量，进行动作分类，得到最终的组合性动作识别结果。本发明通过基于自注意力机制的Transformer模块，推断视频序列中不同物体在时域和空域上的交互关系，弱化了RGB视觉表征信息，引入光流数据，增强了模型提取时序特征的能力，融合多种数据模态提取的特征，弥补了不同数据模态之间的缺陷，有效提高了组合性动作识别的准确率和泛化性。
主权项：1.一种组合性动作识别方法，其特征在于，包括：获取待识别的视频中包含的物体的几何位置信息；包括：检测待识别的视频序列中出现的各个物体的类别以及位置坐标；基于各个物体的类别以及位置坐标，得到每个物体的类别、位置以及在视频序列中的出现顺序标号；基于所述几何位置坐标及RGB视频序列获取各个物体的多模态特征；所述多模态特征包括几何表征特征、视觉表征特征和运动流特征；其中，提取用于几何特征建模的输入数据时，对于某个物体，除了使用检测到的边界框坐标表征固定位置信息外，引入与其他物体的相对位置信息，以及该物体在相邻帧间的变化信息；根据所述多模态特征，采用三条分支的关系推理网络，得到表征各个物体间交互关系的特征向量；具体为：采用多头注意力模块结合全连接的前馈层，对所述多模态特征进行处理；将对所述多模态特征进行处理得到的特征映射到一个更高维的空间，放大向量的各类信息彼此之间的差异，随后再映射回低维空间；将映射回低维空间后得到的特征与所述多模态特征进行拼接，得到表征各个物体间交互关系的特征向量；基于所述表征各个物体间交互关系的特征向量，进行动作分类，得到最终的组合性动作识别结果。
全文数据：
权利要求：
百度查询： 山东大学 组合性动作识别方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号