申请/专利权人：德鲁动力科技(成都)有限公司

申请日：2021-03-15

公开（公告）日：2024-06-18

公开（公告）号：CN112907607B

主分类号：G06T7/12

分类号：G06T7/12;G06N3/048;G06N3/0464;G06N3/08

优先权：

专利状态码：有效-授权

法律状态：2024.06.18#授权;2021.06.22#实质审查的生效;2021.06.04#公开

摘要：本发明涉及基于差分注意力的深度学习、目标检测及语义分割方法，包括步骤1，数据集处理：将数据变成深度学习神经网络需要的数据结构；步骤2，包括：2.1，搭建传统的卷积神经网络；2.2模型改进：在卷积后添加一个差分注意力模块，所述差分注意力模块用于分别关注图片宽方向和高方向的变化；步骤3，模型训练，得基于差分注意力机制的卷积神经网络。本发明克服现有注意力算法只利用当前特征的缺点，将差分算法应用于注意力算法，从而让神经网络对图像或特征图的变化特征、纹理特征以及边缘特征更加敏感，有利于神经网络模型在目标检测、图像分割、抠图等领域的表达能力；同时，相对于其他注意力算法，本发明只是增加了少量的运算，非常利于实现。

主权项：1.基于差分注意力的深度学习方法，其特征在于：包括：步骤1，搭建的卷积神经网络；步骤2，模型改进：在卷积后添加一个差分注意力模块，所述差分注意力模块用于分别关注图片宽方向和高方向的变化；所述差分注意力模块作用于卷积生成的高维张量；所述差分注意力模块分为第一分支和第二分支，第一分支关注宽方向的变化，第二分支关注高方向的变化；差分注意力模块的工作机制为：S1，两个分支同时对张量进行处理：所述第一分支包括以下步骤：A1，对维度为的高维张量做方向的差分卷积运算，为宽度，为高度；A2，对A1生成的张量做行相关运算，生成的相关矩阵；A3，对A2生成的相关矩阵做flatten操作，变成一维向量，然后通过线性变换生成的向量；所述第二分支包括以下步骤：B1，对维度为的高维张量做方向的差分卷积运算；B2，对B1生成的张量做列相关运算，生成的相关矩阵；B3，对B2生成的相关矩阵做flatten操作，变成一维向量，然后通过线性变换生成的向量；S2，将两个分支上最终生成的向量按照元素求和，得张量：然后针对每一个元素做sigmoid运算，把每一个元素的值变成[0，1]的一个权重；S3，把的张量进行reshape操作，变成一个的一个张量，然后再和原张量做按位乘法运算，完成attention操作。

全文数据：

权利要求：

百度查询： 德鲁动力科技(成都)有限公司 基于差分注意力的深度学习、目标检测及语义分割方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD