买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：深圳数联天下智能科技有限公司

摘要：本发明公开了一种模型合并方法，包括：首先获取多个未携带标签的人脸训练图像，分别将第一人脸图像输入多个教师模型，获取每个教师模型输出的第一特征信息，将所有教师模型输出的第一特征信息作为第一人脸图像的标签；再将携带有标签的第一人脸图像输入学生模型，获取学生模型输出的对应多个特征的第二特征信息；最后通过预设的蒸馏损失函数，根据第一特征信息和第二特征信息计算蒸馏损失，根据蒸馏损失调整学生模型的参数，之前的训练步骤，直至学生模型收敛。可见，本发明让该学生模型具备所有教师模型的特征检测能力，达到模型合并，减少模型占用量的目的，便于进步一步实现边缘部署。此外，还提出了特征检测方法、设备和介质。

主权项：1.一种模型合并方法，其特征在于，应用于模型集合，所述模型集合包括网络结构相同的多个教师模型和一个学生模型，所述多个教师模型均已收敛，不同教师模型用于检测不同特征，所述学生模型未收敛，所述方法包括：获取多个未携带标签的人脸训练图像，分别将第一人脸图像输入所述多个教师模型，获取每个教师模型输出的第一特征信息，将所有教师模型输出的第一特征信息作为所述第一人脸图像的标签；其中，所述第一人脸图像为所述多个未携带标签的人脸训练图像中的任意一个，不同教师模型输出的第一特征信息不同；将携带有标签的第一人脸图像输入所述学生模型，获取所述学生模型输出的对应多个特征的第二特征信息；通过预设的蒸馏损失函数，根据所述第一特征信息和所述第二特征信息计算蒸馏损失，根据所述蒸馏损失调整所述学生模型的参数，返回执行所述分别将第一人脸图像输入所述多个教师模型的步骤，直至所述学生模型收敛；所述第一特征信息和所述第二特征信息均包括特征严重程度及置信度，所述蒸馏损失函数包括多个特征蒸馏损失函数，一个特征蒸馏损失函数对应一个特征，一个特征蒸馏损失函数包括一个软标签损失函数及一个硬标签损失函数；所述通过预设的蒸馏损失函数，根据所述第一特征信息和所述第二特征信息计算蒸馏损失，包括：通过所述软标签损失函数，根据所述第一特征信息中目标特征对应的特征严重程度和所述第二特征信息中目标特征对应的特征严重程度计算所述目标特征的软标签损失；其中，所述目标特征为所述多个教师模型检测的特征中的任意一个；通过所述硬标签损失函数，根据所述第一特征信息中目标特征对应的置信度与所述第二特征信息中目标特征对应的特征严重程度计算所述目标特征的硬标签损失；计算第一权重与所述软标签损失的第一乘积，及第二权重与所述硬标签损失的第二乘积，将所述第一乘积与所述第二乘积的和作为所述目标特征对应的特征蒸馏损失；其中，所述第一权重与所述第二权重的和为1；计算所有特征对应的特征蒸馏损失的和，以得到所述蒸馏损失。

全文数据：

权利要求：

百度查询： 深圳数联天下智能科技有限公司 特征检测方法、模型合并方法、设备和介质