买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中山大学申请的专利基于知识蒸馏的多自监督任务融合方法、装置及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115205586B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210737555.9，技术领域涉及：G06V10/764；该发明授权基于知识蒸馏的多自监督任务融合方法、装置及存储介质是由刘嘉滨;张轩铭;陈曾平;胡俊设计研发完成，并于2022-06-27向国家知识产权局提交的专利申请。

本基于知识蒸馏的多自监督任务融合方法、装置及存储介质在说明书摘要公布了：本发明公开了一种基于知识蒸馏的多自监督任务融合方法、装置及存储介质，建立多个第一神经网络模型、多个自监督任务、分类任务和第二神经网络模型，分别使用各自监督任务，对相应的第一神经网络模型进行自监督训练；通过知识蒸馏融合各第一神经网络模型与第二神经网络模型，使用分类任务对第二神经网络模型进行训练等步骤。本发明应用了知识蒸馏技术，能够借助经过自监督任务训练的第一神经网络模型，提升第二神经网络模型的性能，使得对第二神经网络模型的训练，融合了有监督学习容易训练得到准确度高的网络模型，以及自监督学习容易进行大规模训练的优点，使得有监督学习与自监督学习的优缺点互补。本发明广泛应用于人工智能技术领域。

本发明授权基于知识蒸馏的多自监督任务融合方法、装置及存储介质在权利要求书中公布了：1.一种基于知识蒸馏的多自监督任务融合方法，其特征在于，所述基于知识蒸馏的多自监督任务融合方法包括： 建立多个第一神经网络模型和多个自监督任务；各所述第一神经网络模型与各所述自监督任务一一对应；所述多个自监督任务包括图像旋转方向识别任务、图像相对方向识别任务、拼图任务和旋转拼图任务； 分别使用各所述自监督任务，对相应的所述第一神经网络模型进行自监督训练； 建立分类任务和第二神经网络模型； 通过知识蒸馏融合各所述第一神经网络模型与所述第二神经网络模型，使用所述分类任务对所述第二神经网络模型进行训练； 所述通过知识蒸馏融合各所述第一神经网络模型与所述第二神经网络模型，使用所述分类任务对所述第二神经网络模型进行训练，包括： 获取所述分类任务对应的样本数据以及真实标签； 将所述样本数据分别输入至各所述第一神经网络模型； 获取各所述第一神经网络模型对所述样本数据进行处理分别产生的输出结果； 融合各所述第一神经网络模型的输出结果，获得软标签； 将所述样本数据输入至所述第二神经网络模型； 获取所述第二神经网络模型对所述样本数据进行处理产生的预测结果； 获取所述第二神经网络模型对所述样本数据进行处理产生的软预测结果； 根据所述预测结果与所述真实标签，确定第一损失函数值； 根据所述软预测结果与所述软标签，确定第二损失函数值； 根据所述第一损失函数值与所述第二损失函数值，确定第三损失函数值； 根据所述第三损失函数值，优化更新所述第二神经网络模型的网络参数； 所述融合各所述第一神经网络模型的输出结果，获得软标签，包括： 将各所述第一神经网络模型的输出结果加权相加，获得所述软标签； 所述获取所述第二神经网络模型对所述样本数据进行处理产生的软预测结果，包括： 将所述第二神经网络模型对所述样本数据进行处理产生的预测结果除以蒸馏温度之后，输入至激活函数，获取所述激活函数的输出结果作为所述软预测结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中山大学，其通讯地址为：510275 广东省广州市海珠区新港西路135号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。