买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京旷视科技有限公司;北京迈格威科技有限公司

摘要：本发明实施例提供关系型自蒸馏方法、装置和系统以及存储介质。方法包括：获取Ni个样本图像和对应的标注数据；将图像输入学生模型以获得图像分类信息；在i≥预设阈值的情况下：对于Ki个类别中的每个类别，基于包括的所有样本图像对应的分类信息确定当前分类信息；对于至少一个类别对中的每个类别对，计算两个类别所对应的当前分类信息之间的距离以获得当前类内类间距离信息；获取至少一个类别对中的每个类别对的历史类内类间距离信息，其基于与先前迭代分别对应的图像分类信息获得；通过将每个相同类别对的当前类内类间距离信息与历史类内类间距离信息进行匹配来对学生模型进行蒸馏。可实现与高层语义相关的分类层面的关系建模。

主权项：1.一种关系型自蒸馏方法，包括在学生模型的训练过程中的第i次迭代下，执行当前迭代操作，所述当前迭代操作包括：获取Ni个样本图像和对应的标注数据，其中，所述标注数据用于指示所述Ni个样本图像各自对应的类别，Ni个样本图像共分为Ki个类别，其中，Ni和Ki均为大于或等于1的正整数，i＝1、2……M，M为大于1的正整数；将所述Ni个样本图像输入所述学生模型，以获得与所述第i次迭代相对应的图像分类信息，所述与所述第i次迭代相对应的图像分类信息包括与所述Ni个样本图像一一对应的分类信息；在i大于或等于预设阈值的情况下，执行蒸馏操作，其中，所述蒸馏操作包括：对于所述Ki个类别中的每个类别，基于该类别包括的所有样本图像所对应的分类信息确定该类别所对应的当前分类信息；对于至少一个类别对中的每个类别对，计算该类别对中的两个类别所对应的当前分类信息之间的距离，以获得该类别对的当前类内类间距离信息，其中，所述至少一个类别对中的每个类别对中的每个类别是所述Ki个类别之一；获取所述至少一个类别对中的每个类别对的历史类内类间距离信息，所述历史类内类间距离信息基于与先前迭代分别对应的图像分类信息获得，所述先前迭代包括所述第i次迭代之前的一次或多次迭代；以及通过将所述至少一个类别对中的每个相同类别对的当前类内类间距离信息与历史类内类间距离信息进行匹配，来对所述学生模型进行蒸馏。

全文数据：

权利要求：

百度查询： 北京旷视科技有限公司 北京迈格威科技有限公司 关系型自蒸馏方法、装置和系统及存储介质