买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:象帝先计算技术(重庆)有限公司
摘要:本公开提供了一种浮点数处理方法及装置,该方法包括,中央处理器获取第一精度浮点数,基于所述第一精度浮点数生成处理指令,并将处理指令发送至硬件加速器;硬件加速器基于接收到的处理指令执行:对第一精度浮点数进行调整得到第二精度浮点数;其中,所述第一精度浮点数的精度大于所述第二精度浮点数的精度;利用对应于第二精度浮点数的算术逻辑单元ALU,对所述第二精度浮点数进行处理,得到所述第二精度浮点数对应的处理结果;根据处理结果确定牛顿迭代初始值,调用本地整数算术逻辑单元ALU模拟牛顿迭代法确定所述第一精度浮点数的平方根或平方根倒数。
主权项:1.一种浮点数处理方法,包括:中央处理器获取第一精度浮点数,基于所述第一精度浮点数生成处理指令,并将处理指令发送至硬件加速器;硬件加速器基于接收到的处理指令执行:对所述第一精度浮点数的尾数进行截取,得到满足第二精度浮点数尾数位宽要求的第一尾数作为第二精度浮点数的尾数;将所述第一精度浮点数的指数拆分为第一指数与第二指数相加;其中,所述第一指数满足第二精度浮点数的指数范围要求作为第二精度浮点数的指数,第二指数为偶数;所述第一精度浮点数的精度大于所述第二精度浮点数的精度;利用对应于第二精度浮点数的算术逻辑单元ALU,对所述第二精度浮点数进行处理,得到所述第二精度浮点数对应的处理结果;根据处理结果确定牛顿迭代初始值,调用本地整数算术逻辑单元ALU模拟牛顿迭代法确定所述第一精度浮点数的平方根或平方根倒数;其中,牛顿迭代初始值至少包括:第二精度浮点数的平方根的尾数、第二精度浮点数的平方根对应的整数数值与第二数值的乘积;其中第二数值为以2为底,以第二指数的二分之一为指数的乘方结果;所述第二精度浮点数对应的整数数值为所述第二精度浮点数的尾数与第四数值的乘积,所述第四数值为以2为底,以所述第二精度浮点数的指数为指数的乘方结果。
全文数据:
权利要求:
百度查询: 象帝先计算技术(重庆)有限公司 一种浮点数处理方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。