买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：清华大学

摘要：本申请涉及一种基于信任和一致性的模型迁移方法、装置、设备及介质，方法包括：基于预设的有标签源域数据，使用卷积神经网络为特征抽取器，提出到源域图像的特征；使用一个源域分类层进行标签预测，并使用交叉熵损失函数进行训练优化，得到预先训练的源域模型；基于预训练的源域模型和无标签的目标域数据，使用对偶分类网络进行模型自适应学习，并使用基于信任和一致性机制进行训练优化，得到自适应学习后的源域模型。由此，解决了在源域数据缺失情况下的领域自适应问题，即给定源域模型和无标签的目标域数据，通过模型迁移的方法进行目标域自适应学习，从而实现无监督学习，显著提高模型的自适应性能力。

主权项：1.一种基于信任和一致性的模型迁移方法，其特征在于，包括以下步骤：基于预设的有标签源域数据，使用卷积神经网络为特征抽取器，提出到源域图像的特征；使用一个源域分类层进行标签预测，其中，源域分类层由全连接层和权重规范层组成，并使用交叉熵损失函数进行训练优化，得到预训练的源域模型；以及基于所述预训练的源域模型和无标签的目标域数据，使用对偶分类网络进行模型自适应学习，并使用基于信任和一致性机制进行训练优化，得到自适应学习后的源域模型;所述使用基于信任和一致性机制进行训练优化，得到自适应学习后的源域模型，包括：在所述目标域数据上进行模型迁移时，将所述目标域数据中的样本输入至模型中，得到概率分布；选取最大概率的标签作为对应样本的伪标签，并使用熵来衡量模型对所述伪标签的信任程度；根据由所述信任程度生成的熵来对所述目标域数据中的所有样本进行从小到大排序，得到可信任样本，并利用所述可信任样本和对应的伪标签对网络进行训练，得到所述自适应学习后的源域模型；在使用对所述对偶分类网络进行模型自适应学习之前，还包括：构建所述对偶分类网络，其中，所述对偶分类网络包括特征抽取器和对偶分类头，在训练过程中，固定源分类器的参数，而所述特征抽取器和目标分类器通过随机梯度下降进行更新；所述使用基于信任和一致性机制进行训练优化，包括：抽取所述目标域数据中的无标注的样本的特征，基于预设的第一分类器和第二分类器得到第一分布预测结果和第二分布预测结果；基于所述第一分布预测结果和第二分布预测结果，计算模型预测分布的信息熵得到模型预测的可信度；所述使用基于信任和一致性机制进行训练优化，包括：对所述可信任样本随机旋转预设角度，得到新的可信任样本；将所述可信任样本和所述新的可信任样本输入至所述对偶分类网络，分别获取所述可信任样本和所述新的可信任样本的特征和预测分布结果；使用预设的损失函数使得所述可信任样本和所述新的可信任样本的特征和概率分布保持一致；利用预设的分类层预测所述新的可信任样本相对所述可信任样本的旋转角度，计算所述旋转角度的预测损失。

全文数据：

权利要求：

百度查询： 清华大学 基于信任和一致性的模型迁移方法、装置、设备及介质