买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:安谋科技(中国)有限公司
摘要:本申请涉及神经网络模型量化技术领域,公开了一种NMS函数的量化方法、电子设备及介质。其中,NMS函数的量化方法包括:获取需要进行交并比计算的第一目标检测框的第一面积数值和第二目标检测框的第二面积数值;将第一面积数值的后第一预设位数的二进制数删除,得到第一目标检测框的第一近似面积数值,并将第二面积数值的后第二预设位数的二进制数删除,得到第二目标检测框的第二近似面积数值;基于第一近似面积数值和第二近似面积数值进行第一目标检测框和第二目标检测框的交并比计算,得到第一目标检测框和第二目标检测框的交并比计算结果。基于上述方案,能够有效减小包含NMS函数的模型的运行内存,提高包含NMS函数的模型的推理速度。
主权项:1.一种NMS函数的量化方法,其特征在于,包括:获取目标图像中各个目标物对应的目标检测框;获取所述各个目标物对应的目标检测框中需要进行交并比计算的第一目标检测框的第一面积数值和第二目标检测框的第二面积数值,所述第一面积数值的数据形式为包括第一位数的二进制数值,所述第二面积数值的数据形式为包括第二位数的二进制数值;将所述第一面积数值的后第一预设位数的二进制数删除,得到第一目标检测框的第一近似面积数值,并将所述第二面积数值的后第二预设位数的二进制数删除,得到所述第二目标检测框的第二近似面积数值;基于所述第一近似面积数值和第二近似面积数值进行所述第一目标检测框和所述第二目标检测框的交并比计算,得到所述第一目标检测框和所述第二目标检测框的交并比计算结果;基于所述交并比计算结果确定所述各个目标物需要保留的目标检测框;所述第一预设位数和所述第二预设位数需要满足使得所述第一近似面积数值和所述第二近似面积数值的加和数值的二进制的位数小于等于第三预设位数;所述第三预设位数为所述NMS函数所部署的处理器能够处理数据的最长位数。
全文数据:
权利要求:
百度查询: 安谋科技(中国)有限公司 一种NMS函数的量化方法、电子设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。