申请/专利权人:西北工业大学
申请日:2024-05-17
公开(公告)日:2024-06-14
公开(公告)号:CN118194955A
主分类号:G06N3/082
分类号:G06N3/082;G06N3/0464
优先权:
专利状态码:在审-实质审查的生效
法律状态:2024.07.02#实质审查的生效;2024.06.14#公开
摘要:本申请的实施例涉及模型压缩技术领域,特别涉及一种基于残差能量度量的卷积神经网络通道剪枝方法,包括:将样本数据输入至目标模型中,逐层逐卷积核地执行卷积操作,得到目标模型的各层的各卷积核输出的特征图;遍历各卷积核,基于当前卷积核输出的特征图计算当前卷积核的原能量;将当前卷积核输出的特征图依次进行离散余弦变换、高频分量置零和反离散余弦变换,基于变换后的特征图计算当前卷积核的残差能量;基于当前卷积核的原能量和残差能量在本批次中的各样本数据上的差异性,确定重要性得分;根据预设的剪枝率和重要性得分,对目标模型的各层进行剪枝,得到轻量化模型。该方法可以科学地实现模型的轻量化,并确保模型性能不会显著下降。
主权项:1.一种基于残差能量度量的卷积神经网络通道剪枝方法,其特征在于,包括:将样本数据输入至目标模型中,逐层逐卷积核地执行卷积操作,分别得到所述目标模型的各层的各卷积核输出的特征图;其中,所述目标模型是基于卷积神经网络训练得到的;遍历所述目标模型的各层的各卷积核,基于当前卷积核输出的特征图中各像素点的像素值,计算所述当前卷积核的原能量;将所述当前卷积核输出的特征图进行离散余弦变换,得到频域特征图,将所述频域特征图的高频分量置零后,再进行反离散余弦变换,得到变换后的特征图,基于所述变换后的特征图中各像素点的像素值,计算所述当前卷积核的残差能量;基于所述当前卷积核的原能量和残差能量在本批次中的各样本数据上的差异性,确定所述当前卷积核的重要性得分;根据预设的剪枝率和当前层的各卷积核的重要性得分,对所述当前层进行剪枝,在完成对所述目标模型的各层的剪枝后,得到所述目标模型的轻量化模型。
全文数据:
权利要求:
百度查询: 西北工业大学 一种基于残差能量度量的卷积神经网络通道剪枝方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。