首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于注意力卷积的地基云图分类方法_华北电力大学(保定)_202311787098.5 

申请/专利权人:华北电力大学(保定)

申请日:2023-12-22

公开(公告)日:2024-05-24

公开(公告)号:CN118072071A

主分类号:G06V10/764

分类号:G06V10/764;G06V10/82;G06N3/0464;G06N3/08;G06N5/04

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.11#实质审查的生效;2024.05.24#公开

摘要:本发明公开了一种基于注意力卷积的地基云图分类方法,选取多阶段分类器作为基本架构,使用改进的重参化深度卷积神经网络作为主干网络并分为训练和推理两个阶段。训练阶段,地基云深度表征卷积网络采用具有丰富的梯度信息和复杂的网络结构的多分支拓扑结构提取地基云图特征;为得到图像的全局特征表示,引入新高效通道注意力网络并学习序列间的特征关系;此外,CloudRVE在训练阶段引入学习率预热算法,可动态优化模型学习率,旨在加速模型参数收敛并增强训练效果。推理阶段,CloudRVE采用结构重参数化方法将多分支拓扑结构轻量化,转化为VGG‑style的单分支拓扑结构致使其推理速度增加,并避免过拟合现象并加快模型收敛速度。

主权项:1.一种基于注意力卷积的地基云图分类方法,其特征在于,包括以下步骤:S1,构建用于地基云图分类的数据集,得到不同类别、相同尺度的地基云图样本;S2,选取多阶段分类器为基础架构,采用改进的重参化深度卷积神经网络RepVGG模型作为主干网络,结合注意力模块和分类头模块搭建模型;S3,训练阶段改进高效通道注意力模块,通过不降维局部跨通道交互优化全局特征提取方式;S4,推理阶段引入结构重参数化,进行轻量化改进,以降低模型复杂度、减少网络推理时的计算量、加快模型推理和收敛速度,增强网络对地基云图特征的学习能力;S5,模型训练阶段引入学习率预热warm-up方法优化特征学习率,致使学习率在模型不同训练阶段自适应优化;其中,为了网络简单有效,选取多阶段分类器为基础架构,采用改进的重参化深度卷积神经网络RepVGG模型作为主干网络,结合注意力模块和分类头模块搭建模型,具体包括:将改进的RepVGG作为主干网络,来提取地基云图特征;然后将得到的特征通过新高效通道注意力模块NECA,实现全局特征的提取,提高特征表示的效果;最后结合分类头模块,搭建基本的地基云图训练模型;其中,改进的RepVGG作为主干网络在训练过程采用具有多分支拓扑结构的CloudRVEBlock提取地基云图特征,其多分支拓扑结构具有丰富的梯度信息和复杂的网络结构,可有效提升地基云图局部特征信息的表征能力,CloudRVEBlock包含4条分支,其主路分支包含卷积核大小为3×3的卷积层,可审视输入图像更大邻域范围信息,易提取全局特征,CloudRVE推理阶段采用单分支拓扑结构,需将完成训练的CloudRVEBlock通过结构重参数化转成单分支拓扑结构模型,其转换过程主要为卷积层和归一化BN层融合、BN层转换成卷积层、多分支卷积层融合,卷积层的卷积核通道数与输入特征图通道数相同,卷积核数量与输出特征图通道数相同;BN层主要参数包含均值μ、方差σ2、学习比例因子γ和偏差β,其中μ和σ2是训练阶段统计得到,γ和β是训练阶段学习得到,对于输入BN层第i个通道的计算如下所示: 其中x表示输入,ε是趋近0的常量,特征图输入BN第i个通道计算流程如下所示: 其中M是卷积层加权求和得到的输出特征图,输入至BN层并忽略ε,因此,可将γiσi乘至3×3卷积层第i个卷积核:

全文数据:

权利要求:

百度查询: 华北电力大学(保定) 一种基于注意力卷积的地基云图分类方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术