买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:南通大学
摘要:本发明提供一种构造原型特征进行人类活动识别的高效深度学习方法,属于深度学习技术领域。解决了测试域数据与训练域数据分布不同导致的性能下降与降低TransformerOL^2复杂度的技术问题。其技术方案为:计算QK特征与均值特征的距离构建两组一维矩阵并由这两个矩阵计算注意力矩阵降低复杂度、初始化原型特征池通过门网络决赋值权重并挑选原型样本与非关注特征进行融合,新构造出来的特征再与关注特征进行加权融合,原型损失函数的设计保证构造特征的有效性与识别的准确性。本发明的有益效果为:本发明方法与现有的一些基于深度学习方法相比,具有更高的识别准确率与鲁棒性。
主权项:1.一种构造原型特征进行人类活动识别的高效深度学习方法,其特征在于,包括以下步骤:S1、低复杂度自注意力特征提取:分别计算QK特征在时间维度上的均值特征,度量每个时间步特征到均值特征的距离,分别得到两组一维矩阵权重,由这两组一维矩阵的相关性计算注意力权重矩阵,降低复杂度,将注意力特征分离出来,分成非关注特征与关注特征;S2、原型特征构造正样本:初始化n*m*L*E的嵌入构造初始PrototypePool,n是活动种类的数量,m是每个类别的正样本数,L是时序长度,E是嵌入维度,通过一个门网络得到每个类别的权重缓解训练集类别不平衡,前向网络层添加非线性信息,接着在第二维度上取均值,每个类别的原型样本,即每个类别的正样本,将非关注特征与各自类别的原型样本拼接成两通道特征,通过卷积与TCN网络获取通道与时序特征,得到输入样本的正样本,这些正样本因屏蔽了关键特征,不会与输入样本重叠;S3、正样本特征提取与注意力特征融合:新构造出来的原型样本与非关注特征融合之后,为了保证信息的完整,再与关注特征进行融合,通过encode得到QK矩阵,利用S1的操作,实现低复杂度的自注意力特征提取;S4、原型损失函数构造:损失函数由两部分组成,第一部分,构造的正样本要与随机挑选的其他类别的样本构成正负样本对,最大化正负样本对的损失,第二部分是融合特征分类后的交叉熵损失,原型损失函数的设计保证构造特征的有效性与识别的准确性。
全文数据:
权利要求:
百度查询: 南通大学 一种构造原型特征进行人类活动识别的高效深度学习方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。