首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于自注意力哈希的海洋遥感船舶图像检索方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:武汉理工大学三亚科教创新园

摘要:本发明涉及一种基于自注意力哈希的海洋遥感船舶图像检索方法,所述方法包含以下步骤:S1、收集遥感海洋遥感船舶图像数据集,按比例数量划分训练集、验证集和测试集;S2、构建基于自注意力哈希的海洋遥感船舶图像检索模型;S3、将步骤S1中的训练集的图像,输入步骤S2构建的模型,采用损失函数对模型进行训练,通过反向传播算法更新模型;S4、基于训练好海洋遥感船舶图像检索模型,输入待检索图像,输出与其相关的海洋遥感船舶图像数据。本发明提高对遥感图像不同尺度的特征提取性能,提升模型的泛化性,并且减少计算量,同时加快图像检索的速度、提高检索效率,减少存储空间,并且减少映射为哈希码的量化损失。

主权项:1.一种基于自注意力哈希的海洋遥感船舶图像检索方法,其特征在于,所述方法包含以下步骤:S1、收集遥感海洋遥感船舶图像数据集,按比例数量划分训练集、验证集和测试集,分别用于后续对模型进行训练、验证和评估;S2、构建基于自注意力哈希的海洋遥感船舶图像检索模型;S3、将步骤S1中的训练集的图像,输入步骤S2构建的模型,采用损失函数对模型进行训练,通过反向传播算法更新模型;S4、基于训练好海洋遥感船舶图像检索模型,输入待检索图像,输出与其相关的海洋遥感船舶图像数据;所述基于自注意力哈希的海洋遥感船舶图像检索模型由图像嵌入模块、正则化注意力编码器、可学习哈希模块构成;所述图像嵌入模块结合非重叠块和重叠块的思想,对海洋遥感船舶图像的局部信息进行建模:其中,输入海洋遥感船舶图像S被分为形状相同的N块子图si,每个子图的大小为p×p×c,p选取为常见的块大小16,c为图像的通道数,第i个图像块的嵌入向量PEi计算如下:PEi=AvgConv0Si+ConvnSi;式中,Convo表示3个步长为2,卷积核大小为3,填充为1的重叠卷积叠加,Avg是自适应池化层,使得重叠卷积层的输出和非重叠卷积层一致,Convn表示卷积核大小和步长都为p的非重叠卷积;之后将嵌入向量在一维方向上进行展开,将分类令牌嵌入CT在第一维度上进行拼接,最后加上位置嵌入PoE,最终的图像嵌入E,计算如下:E=dropout[CT,PE]+PoE;所述正则化注意力编码器,其作用是为了缓解编码器中的过拟合问题,在注意力机制计算的过程中随机丢失编码器中的部分键和最终的结果: 式中,p表示一定概率的伯努利分布,用于将一定概率r的键进行丢弃,其中r为可学习参数;自注意力模块得到的值进行拼接再经过一个全连接层的计算得到多头注意力值Fatt,计算表示如下:Fatt=MultiHeadQ,K,V;Fatt=Concat[head1,head2,...,headn]Wo;其中,h为注意力头的个数,headi为第i个注意力头;在多个多头注意力的计算下,第j个编码器块Hj的输出根据上一个编码器块的结果、自注意力模块的结果、多层感知机模块的结果计算得到,自注意力模块将多头注意力值通过一个线形层进行计算,多层感知机模块使用了层归一化与GELU激活函数,并且最后使用0.1比例的dropout层进行计算,计算如下:Hj=Hj-1+Fatt×Watt+Fmlp;其中,Watt是自注意力模块中可学习的参数,Fmlp是多层感知机模块的输出;所述可学习哈希模块其作用是为了降低图像描述子存储占用,提高检索性能,在编码器输出后添加了哈希学习模块,首先编码器的输出经过一个Dropout层,再经过一个全连接层将特征投影到4096维,最后再通过ReLU激活函数得到初步特征Finit:Finit=ReLULinearDropoutH;为了减少哈希码的冗余度,将初步特征Finit分为Kb组,分组进行映射学习,最后使用和符号函数Sgn进行哈希映射,其计算如下: Kb=4096Lb;其中,L是分组映射函数,这里为了实现方便,直接使用步长和卷积核大小都是Kb的一维卷积实现;为了解决符号函数带来的基于SGD的学习策略无法生效的问题,将符号函数的导数设置成双曲正切函数的导数;Forward:b=Sgnbc; 其中,b是哈希码,bc是网络输出的连续浮点特征。

全文数据:

权利要求:

百度查询: 武汉理工大学三亚科教创新园 一种基于自注意力哈希的海洋遥感船舶图像检索方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术