申请/专利权人：浙江大学

申请日：2023-04-19

公开（公告）日：2023-09-12

公开（公告）号：CN116739911A

主分类号：G06T5/00

分类号：G06T5/00;G06T3/40;G06V10/80;G06V10/764;G06N3/0464;G06N3/08

优先权：

专利状态码：在审-实质审查的生效

法律状态：2023.09.29#实质审查的生效;2023.09.12#公开

摘要：本发明公开了一种基于SwinTransformer和CNN融合的遥感图像全色锐化方法。本发明在全色锐化任务中引入SwinTransformer方法并将其与CNN方法相结合，分别提取图像的深特征和浅特征，将得到的特征拼接后进行图像重建。与传统的基于Transformer的方法相比，在保留了模型对图像全局特征的提取能力的同时加强了对局部特征的关注。SwinTransformer的局部注意力和移位窗口机制带来了更好的非线性纹理特征，进一步提高对局部特征的提取能力，SwinTransformer和CNN相结合的创新过程解决了遥感图像全色锐化当前关注全局特征而忽略局部特征的尴尬，在WorldView‑3和GaoFen‑2数据集上的实验验证了我们的模型能够提高遥感图像全色锐化的性能。

主权项：1.一种基于SwinTransformer和CNN融合的遥感图像全色锐化方法，其特征在于：将待全色锐化的全色图像和多光谱图像输入全色锐化模型中，且所述全色锐化模型包括第一特征提取路径、第二特征提取路径和图像重建模块，全色图像和多光谱图像分别作为第一特征提取路径和第二特征提取路径的输入图像，两个输入图像在各自的特征提取路径中分别经过基于CNN的浅特征提取模块和基于SwinTransformer的深特征提取模块进行浅层特征提取和深层特征提取，最后将第二特征提取路径中提取到的深层特征和浅层特征经过残差连接融合后再与第一特征提取路径中提取到的深层特征在通道维度上进行拼接，拼接特征输入图像重建模块中进行图像的重建；两条特征提取路径中的浅特征提取模块均为一组卷积模块级联而成的CNN卷积网络；所述第一特征提取路径中的深特征提取模块由两组STBSwinTransformerBlock模块级联而成，且每一组STB模块的前端带有PMPatchMerging模块，PM模块用于对每一组STB模块的输入进行PatchMerging操作；所述第二特征提取路径中的深特征提取模块由两组STB模块级联而成；两条特征提取路径中的每一组STB模块均由一个第一STB模块和一个第二STB模块级联而成；所述第一STB模块以前端级联模块输出的浅层特征图作为输入，每个输入的浅层特征图经过层归一化后按照固定尺寸的划分窗口分割为不重合的局部窗口块，对于每一个局部窗口块再通过跨窗口共享的线性投影矩阵进行编码并得到每个局部窗口的特征向量，接着以各局部窗口的特征向量作为多头注意力层中多头注意力机制的查询Query、值Value和键Key并通过注意力融合得到注意力图，将注意力图与输入的浅层特征图进行残差连接后得到中间特征图，再将中间特征图经过层归一化和线性分类器后的结果与中间特征图残差连接，得到第一STB模块的输出特征；所述第二STB模块以前端级联的第一STB模块的输出特征作为输入特征，第二STB模块通过在第一STB模块的多头注意力层之前增加窗口移位操作；两条特征提取路径中均以第二组STB模块中第二STB模块的输出特征作为深特征提取模块提取到的深层特征；所述图像重建模块中对输入的拼接特征进行多次卷积和上采样，得到最终的全色锐化结果。

全文数据：

权利要求：

百度查询： 浙江大学 一种基于SwinTransformer和CNN融合的遥感图像全色锐化方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD