首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

用于机器学习模型的量化 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:微软技术许可有限责任公司

摘要:根据本公开的实现,提出了一种用于机器学习模型的量化的方案。在该方案中,获得机器学习模型中的处理单位所使用的处理参数的当前值。基于预定数目的基础量化参数的当前值和特定于处理参数的二值量化参数的当前值来量化处理参数的当前值,以获得处理参数的量化值,二值量化参数与基础量化参数分别对应,并且预定数目与用于量化的比特数目相同。基于处理参数的量化值与处理参数的当前值之间的差异,更新基础量化参数的当前值和二值量化参数的当前值,以用于特定于处理参数的量化。以此方式,不仅能够获得由网络量化带来的存储和处理开销的降低,而且还能进一步提高量化准确度。

主权项:1.一种由计算机实现的方法,包括:获得机器学习模型中的处理单位所使用的处理参数的当前值,所述处理单位包括所述机器学习模型的网络层或者所述机器学习模型的网络层中的处理节点;基于预定数目的基础量化参数的当前值和二值量化参数的当前值来量化所述处理参数的当前值,以获得所述处理参数的量化值,所述二值量化参数与所述基础量化参数分别对应,并且所述预定数目与用于所述处理参数的量化的比特数目相同;以及基于所述处理参数的量化值与所述处理参数的当前值之间的差异,更新所述基础量化参数的当前值和所述二值量化参数的当前值,以用于特定于所述处理单位的所述处理参数的量化,其中更新所述二值量化参数的当前值包括:在固定所述基础量化参数的当前值的情况下,更新所述二值量化参数的当前值;其中所述基础量化参数的更新的当前值和所述二值量化参数的更新的当前值不同于针对所述机器学习模型中的另一处理单元的基础量化参数的更新的当前值和二值量化参数的更新的当前值。

全文数据:

权利要求:

百度查询: 微软技术许可有限责任公司 用于机器学习模型的量化

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。