买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:南京理工大学
摘要:本发明公开了一种基于迁移学习的渐进式跨域模型压缩方法,包括以下步骤:S1、教师模型进行无监督域自适应;S2、学生模型基于教师模型的源域和目标域知识进行训练;S3、学生模型计算当前轮数的剪枝率,确定剪枝的迭代次数Np,初始化计数器p=1;S4、学生模型评估所有通道的重要性并进行排序;S5、学生模型修剪不重要的通道,并通过迁移知识蒸馏进行微调,计数器加1;S6、判断计数器是否达到剪枝的迭代次数,如果满足则重复步骤S1‑S6,如果不满足则继续重复步骤S4‑S6,直至计数器达到目标次数Np=p。本发明采用上述的一种基于迁移学习的渐进式跨域模型压缩方法,有利于在真实场景中部署高精确度的轻量的无监督域自适应模型。
主权项:1.一种基于迁移学习的渐进式跨域模型压缩方法,其特征在于,包括以下步骤:S1、教师模型进行无监督域自适应;S2、学生模型基于教师模型的源域和目标域知识进行训练;S3、学生模型计算当前轮数的剪枝率,确定剪枝的迭代次数Np,初始化计数器p=1;S4、学生模型评估所有通道的重要性并进行排序;S5、学生模型修剪不重要的通道,并通过迁移知识蒸馏进行微调,计数器加1;S6、判断计数器是否达到剪枝的迭代次数,如果满足则重复步骤S1-S6,如果不满足则继续重复步骤S4-S6,直至计数器达到目标次数Np=p。
全文数据:
权利要求:
百度查询: 南京理工大学 一种基于迁移学习的渐进式跨域模型压缩方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。