首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

用于块浮点计算的系统、方法和计算机存储介质 

申请/专利权人:微软技术许可有限责任公司

申请日:2019-04-25

公开(公告)日:2024-06-25

公开(公告)号:CN112074806B

主分类号:G06F7/487

分类号:G06F7/487;G06F7/53;G06F7/544

优先权:["20180504 US 15/971,904"]

专利状态码:有效-授权

法律状态:2024.06.25#授权;2020.12.29#实质审查的生效;2020.12.11#公开

摘要:一种用于神经网络中的块浮点计算的系统,该系统接收包括尾数部分的块浮点数。块浮点数的位宽通过将块浮点数分解为多个数而被减小,多个数中的每个数具有其位宽小于块浮点数的尾数部分的位宽的尾数部分。一个或多个点积运算被分离地对多个数中的每个数执行,以获得单独的结果,单独的结果被求和以生成最终的点积值。最终的点积值被用于实现神经网络。减小的位宽计算允许高精度数学运算以提高的准确度在低精度处理器上被执行。

主权项:1.一种用于神经网络中的块浮点计算的系统,所述系统包括:至少一个处理器;以及至少一个存储器,所述至少一个存储器包括计算机程序代码,所述至少一个存储器和所述计算机程序被配置为:利用所述至少一个处理器,使所述至少一个处理器:接收包括尾数部分和指数部分的块浮点数;通过将所述块浮点数分解为减小的位宽块浮点数来减小所述块浮点数的位宽,所述减小的位宽块浮点数中的每个减小的位宽块浮点数具有指数部分和尾数部分,并且其中所述减小的位宽块浮点数中的每个减小的位宽块浮点数的所述尾数部分的位宽小于所述块浮点数的所述尾数部分的位宽;将所述减小的位宽块浮点数缩放,其中所述缩放包括:基于所述减小的位宽块浮点数内的所述尾数部分来缩放所述减小的位宽块浮点数的所述指数部分;分离地对所述减小的位宽块浮点数中的每个减小的位宽块浮点数执行一个或多个点积运算,以获得单独的结果;对所述单独的结果求和,以生成最终的点积值;以及使用所述最终的点积值来实现所述神经网络。

全文数据:

权利要求:

百度查询: 微软技术许可有限责任公司 用于块浮点计算的系统、方法和计算机存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。