恭喜浪潮通用软件有限公司韩嘉懿获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浪潮通用软件有限公司申请的专利一种全局注意力机制实现的方法、系统、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118821866B 。
龙图腾网通过国家知识产权局官网在2025-03-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411303515.9,技术领域涉及:G06N3/0464;该发明授权一种全局注意力机制实现的方法、系统、设备及介质是由韩嘉懿;杜宏伟;丁一凡;周祥国;吴艺文;郑伟航;王家琦;徐雅迪设计研发完成,并于2024-09-19向国家知识产权局提交的专利申请。
本一种全局注意力机制实现的方法、系统、设备及介质在说明书摘要公布了:本发明涉及数据处理的领域,本发明提出了一种全局注意力机制实现的方法、系统、设备及介质,方法包括:对待处理的数据进行处理得到特征图谱;通过预设的注意力模型计算所述特征图谱的自注意力,得到自注意力特征图谱,并基于所述自注意力特征图谱进行全局感受野捕捉,得到膨胀特征图谱;整合所述自注意力特征图谱和所述膨胀特征图谱,得到中间特征图谱;将所述中间特征图谱作为新的特征图谱,返回计算所述特征图谱的自注意力的步骤,直到达到预设条件为止,输出全局特征图谱。本发明通过调整膨胀率来控制全局感受野的大小,在不增加计算复杂度的前提下,提取到更大范围的图像特征,避免网格问题,平衡了模型性能和计算效率。
本发明授权一种全局注意力机制实现的方法、系统、设备及介质在权利要求书中公布了:1.一种全局注意力机制实现的方法,其特征在于,包括:对待处理的数据进行处理得到特征图谱;通过预设的注意力模型计算所述特征图谱的自注意力,得到自注意力特征图谱,并基于所述自注意力特征图谱进行全局感受野捕捉,得到膨胀特征图谱;整合所述自注意力特征图谱和所述膨胀特征图谱,得到中间特征图谱;将所述中间特征图谱作为新的特征图谱,返回计算所述特征图谱的自注意力的步骤,直到达到预设条件为止,输出全局特征图谱;方法还包括,所述预设的注意力模型的训练过程如下:获取训练数据,对所述训练数据进行降采样,计算得到输入特征图谱的大小;基于输入特征图谱的大小构建膨胀自注意力模块,基于输入特征图谱的大小计算层数和膨胀率;将所述层数和膨胀率对应的空洞自注意力层进行堆叠,得到膨胀自注意力模块,膨胀自注意力模块的构造公式如下: ;其中,r_ii=1,2,…,S代表第i个空洞卷积层的膨胀率,S代表堆叠的层数,L=maxH,W,输入特征图谱大小为H×WH≥2,W≥2,n为卷积层总数;将所述膨胀自注意力模块的最后一层初始化为0,将每个膨胀自注意力模块附加在对应的卷积模块中;设置图像参数,将训练数据通过插值法修改为图像参数大小,将所述训练数据通过卷积模块和膨胀自注意力模块处理,得到输出结果;将输出结果作为新的训练数据重新开始训练,直到达到预设次数为止,得到注意力模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浪潮通用软件有限公司,其通讯地址为:250101 山东省济南市历下区浪潮路1036号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。