龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京航空航天大学
摘要：本发明公开了一种粗细粒度联合的神经网络剪枝方法，包括：对筛选出的候选滤波器进行组稀疏化训练，一定轮数后，将小于阈值的候选滤波器进行修剪；逐层对卷积核的重要性进行排序，并根据预先定义好的剪枝率逐层获得需要被剪枝的卷积核；以权重为单位，对卷积核进行正则化压缩，并在压缩过程中动态生成满足预先构建的模式判别函数的模式集；将每个卷积核匹配到所述模式集中该卷积核的最优模式；进行卷积核剪枝和模式剪枝；将需要被剪枝的参数置零，对模型进行硬剪枝；结合知识蒸馏方法对硬剪枝后的模型进行再训练和微调，得到剪枝后的最终模型。本发明能够充分发挥结构化和非结构化剪枝的优势，提高模型存储和推理效率，具有更高的硬件友好性。
主权项：1.一种粗细粒度联合的神经网络剪枝方法，其特征在于，包括以下步骤：按照二范数和逐层选出原始模型中需要被剪枝的候选滤波器，并对所述候选滤波器进行组稀疏化训练，一定轮数后，将小于阈值的候选滤波器进行修剪；按照二范数和逐层对卷积核的重要性进行排序，并根据预先定义好的剪枝率逐层获得需要被剪枝的卷积核；以权重为单位，对卷积核进行正则化压缩，并在压缩过程中动态生成满足预先构建的模式判别函数的模式集；将每个卷积核匹配到所述模式集中该卷积核的最优模式；进行卷积核剪枝和模式剪枝；将需要被剪枝的参数置零，对模型进行硬剪枝；结合知识蒸馏方法对硬剪枝后的模型进行再训练和微调，得到剪枝后的最终模型；选择cifar10、cifar100数据集，vgg16、resnet32、resnet50作为待剪枝的网络，在通用GPU平台进行实验，评估剪枝后的最终模型的准确性；将剪枝后的最终模型部署在嵌入式设备中。
全文数据：
权利要求：
百度查询： 北京航空航天大学 一种粗细粒度联合的神经网络剪枝方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号