买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：电子科技大学

摘要：本发明公开了一种基于元增强对比学习的无源无监督域适应方法，构建由教师模型和学生模型构成的师生网络，在教师模型编码器和分类器之间设置一个元特征增强器从而构成元增强对比学习模型，构建包括正样本、负样本特征库和空间特征库的对比学习特征库并进行初始化，然后基于空间对比学习和语义对比学习对元增强对比学习模型进行训练，从最终的元学习模型中提取学生模型作为目标域模型。本发明基于师生网络和元特征增强器构建元增强对比学习模型，并通过空间对比学习和语义对比学习进行训练，从而提升所得到的目标域模型在无源无监督情况下对于目标域的适应效果。

主权项：1.一种基于元增强对比学习的无源无监督域适应方法，其特征在于，包括以下步骤：S1：根据实际需要收集目标域的M个图像样本构成元训练数据集X；S2：根据实际需要确定源域编码器和源域分类器，提取其中参数初始化目标域模型中编码器和分类器的参数，将初始目标域模型复制一份，分别作为教师模型和学生模型构成师生网络；在教师模型的编码器和分类器之间设置一个元特征增强器，用于对编码器提取得到的特征图进行增强，随机初始化元特征增强器参数，从而构成元增强对比学习模型；S3：初始化对比学习特征库，包括正样本、负样本特征库和空间特征库，具体步骤包括：S3.1：将元训练数据集X中的每个图像样本xi分别进行随机增强，得到增强样本Axi并分别输入到教师模型的编码器和学生模型的编码器得到特征其中，d表示特征的维度，i＝1,2,…,M，w，θ分别表示教师模型和学生模型的参数；将教师模型编码器得到的特征表示输入到元特征增强器中，输出增强特征将特征和分别输入到教师模型和学生模型中的分类器得到对应的概率分布分别表示教师模型和学生模型中的分类器所得到的图像样本xi属于类别c的概率，c＝1,2,…,C，C表示类别的数量；S3.2：采用如下公式确定图像样本xi的伪标签yi： S3.3：采用如下公式计算每个类别c的质心作为正样本： 其中，表示类别c的质心，Iyi＝c表示二值函数，当yi＝c时Iyi＝c＝1，否则Iyi＝c＝0；S3.4：构建作为负样本特征库Nsem，负样本特征库Nsem是包含C个长度为M的队列的列表，记类别c对应的负样本队列为Nsemc，遍历各个图像样本xi，如果满足其伪标签yi＝c,0≤υ≤τ≤1表示阈值参数，则将对应的增强特征加入类别c的负样本队列Nsemc，否则不作任何操作；S3.5：对于元训练数据集X每个图像样本xi，通过学生模型编码器得到对应的特征，按顺序填充到空间特征库中；S4：采用元学习方式同时优化元特征增强器和学生模型，从而完成元增强对比学习模型的训练，具体方法为：S4.1：令迭代次数t＝1；S4.2：从元训练数据集X中随机选择B个图像样本作为当前批次的训练数据集XB；S4.3：将元增强对比学习模型中的学生模型的模型训练损失作为下层任务，将元特征增强器的模型训练损失作为上层任务，采用当前批次的训练数据集XB对元增强对比学习模型，上层任务和下层任务交替进行迭代更新，完成元学习模型的训练；其中，下层任务损失的计算公式为： 其中，θ表示学生模型的参数，表示元特征增强器的参数，λ表示非负的调优因子，分别表示学生模型的语义对比损失和空间特征对比学习损失；语义对比损失基于语义负样本库计算，计算公式如下： 其中，表示当前批次中的训练样本，表示学生模型中特征提取对训练样本提取得到的特征，cj表示学生模型对训练样本的预测类别，表示预测类别cj所对应的正样本，Nsemcj表示预测类别cj所对应的负样本特征队列，p-表示负样本，||表示求取集合中样本数量，d表示求取距离；空间特征对比学习损失的计算方法为：1采用K近邻算法从空间特征库Nspa中选择与图像样本的特征最相似的K个特征表示作为正样本，从而得到正样本集合2将当前批次的训练数据集XB中除图像样本之外的其他图像样本作为负样本，从而得到负样本集合3采用如下公式计算特征对比学习损失 其中，qk表示正样本集合中的特征，表示学生模型中编码器对负样本集合中的图像样本提取得到的特征；上层任务损失的计算公式为： 其中，A表示对图像样本进行随机增强，分别表示学生模型中编码器对图像样本和增强图像样本提取得到的特征，表示一致性损失，表示图像样本的熵值；S4.4：判断是否t＜tmax，tmax表示预测的最大迭代次数，如果是，进入步骤S4.5，否则训练完成；S4.5：采用当前学生模型的参数对教师模型的参数进行更新；S4.6：采用本批次的数据对对比学习特征库进行更新，具体方法为：S4.6.1：对于当前批次的训练数据集XB每个图像样本采用步骤S3.1中的方法获取由教师模型和学生模型中的分类器对图像样本随机增强后的样本得到概率分布分别表示教师模型和学生模型中的分类器所得到的图像样本属于类别c的概率，并提取学生模型中的编码器对图像样本随机增强后的样本提取得到的特征和元特征增强器得到的增强特征S4.6.2：采用如下公式确定图像样本的伪标签yj： S4.6.3：采用如下公式更新每个类别的正样本pc： 其中，η∈0,1表示预设的权重；S4.6.4：遍历各个图像样本如果满足其伪标签则将对应的增强特征根据先进先出的原则对类别c的负样本队列Nsemc进行更新，否则不作任何操作；S4.6.5：对当前批次的训练数据集XB中每个图像样本采用当前学生模型编码器提取得到对应的特征，根据先进先出的原则对空间特征库Nspa进行更新；S4.7：令t＝t+1，返回步骤S4.2；S5：从训练完成的元增强对比学习模型中提取出学生模型，作为目标域模型。

全文数据：

权利要求：

百度查询： 电子科技大学 基于元增强对比学习的无源无监督域适应方法