买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:杭州海康威视数字技术股份有限公司
摘要:本申请涉及模型量化技术领域,公开了模型量化方法、装置、设备、存储介质及产品,包括:获取初始浮点模型的模型输出数据,以及初始浮点模型的输出层各输出节点对应的相关性分值,并获取初始浮点模型中各层网络对应的单层量化输出数据;计算初始浮点模型中各层网络分别对应的敏感度评估值;根据敏感度评估值从初始浮点模型中各层网络中选取待调整网络;对初始浮点模型中待调整网络及其他层网络设置量化配置;根据设置后的量化配置对初始浮点模型进行模型量化。由于是根据可表征网络的量化对模型输出影响程度的敏感度评估值选取部分网络作为待调整网络,并将待调整网络设置为量化精度较高的量化配置,保证了可合理的调整量化方式,提高量化效果。
主权项:1.一种模型量化方法,其特征在于,所述模型量化方法包括:获取初始浮点模型的模型输出数据,以及所述初始浮点模型的输出层各输出节点对应的相关性分值,并获取所述初始浮点模型中各层网络对应的单层量化输出数据;所述模型输出数据为初始浮点模型针对标准样本的输出数据;所述相关性分值用于表征输出层中各输出节点对模型输出数据的贡献程度;所述初始浮点模型中各层网络对应的单层量化输出数据为分别将初始浮点模型中该层网络单独进行量化,量化后的模型对标准样本的输出数据;根据所述模型输出数据、所述相关性分值及所述单层量化输出数据计算所述初始浮点模型中各层网络分别对应的敏感度评估值;根据所述敏感度评估值从所述初始浮点模型中各层网络中选取待调整网络;将所述初始浮点模型中所述待调整网络设置为网络目标量化配置,并将所述初始浮点模型中除所述待调整网络之外的其他层网络设置为网络初始量化配置,所述网络目标量化配置的量化精度大于所述网络初始量化配置的量化精度;根据设置后的量化配置对所述初始浮点模型进行模型量化。
全文数据:
权利要求:
百度查询: 杭州海康威视数字技术股份有限公司 模型量化方法、装置、设备、存储介质及产品
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。