恭喜清华大学张春获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜清华大学申请的专利面向硬件的Adam算法二阶矩估计优化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115099397B 。
龙图腾网通过国家知识产权局官网在2025-04-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210599828.8,技术领域涉及:G06N3/063;该发明授权面向硬件的Adam算法二阶矩估计优化方法及系统是由张春;牛丽婷;张惟宜;姜汉钧设计研发完成,并于2022-05-30向国家知识产权局提交的专利申请。
本面向硬件的Adam算法二阶矩估计优化方法及系统在说明书摘要公布了:本发明公开了一种面向硬件的Adam算法二阶矩估计优化方法及系统,该方法包括:初始化;重复执行以下步骤,直至达到设定迭代步数或满足收敛条件:针对本步待优化参数对目标函数求导,获得本步梯度;根据二阶指数衰减因子、本步梯度的绝对值和上步二阶矩估计开平方值,获得二阶距开平方和公式的较大值和较小值;将其输入至二阶距开平方和公式,获得本步二阶矩估计开平方值,以计算本步更新步,二阶距开平方和公式的确定步骤如下:获得平方和开根号近似公式;获得用于表示二阶距开平方和公式的较大值和较小值;确定二阶距开平方和公式。本发明可以实现低资源占用、高吞吐率的面向硬件的Adam算法二阶矩估计优化,且可避免精度的损失。
本发明授权面向硬件的Adam算法二阶矩估计优化方法及系统在权利要求书中公布了:1.一种面向硬件的Adam算法二阶矩估计优化系统,其特征在于,包括控制模块、比较模块和二阶矩估计模块;其中,控制模块,用于初始化二阶矩估计开平方值、二阶指数衰减因子、初始迭代步数和预设迭代步骤;重复执行以下步骤,直至达到设定迭代步数或满足收敛条件:针对本步待优化参数对目标函数求导,获得本步梯度;将二阶指数衰减因子、本步梯度和上步二阶矩估计开平方值输入至比较模块,获得二阶距开平方和公式的较大值和较小值;将所述较大值和较小值输入至二阶矩估计模块,获得本步二阶矩估计开平方值,所述二阶矩估计模块用于基于二阶距开平方和公式获得本步二阶矩估计开平方值,所述本步二阶矩估计开平方值用于输入至优化后的Adam算法的待优化参数更新公式,获得本步更新步,所述更新步用于在硬件中训练神经网络获得本步更新步;其中,所述二阶距开平方和公式的确定步骤如下:将Adam算法的待优化参数更新公式中的本步二阶矩估计值用本步二阶矩估计开平方值代替;将Adam算法中本步二阶矩估计值计算公式整理为第一临时值和第二临时值的平方和开根号形式的本步二阶矩估计值计算公式;获得平方和开根号近似公式;根据第一临时值和第二临时值,获得用于表示二阶距开平方和公式的较大值和较小值;根据较大值、较小值、平方和开根号近似公式,确定二阶距开平方和公式;比较模块包括:第一乘法器,用于对二阶指数衰减因子的平方根和上步二阶矩估计开平方值进行乘法计算,获得第一临时值;第一移位寄存器,用于根据二阶指数衰减因子确定的位数值,对本步更新的梯度右移操作,获得第二临时值;比较器,用于比较第一临时值和第二临时值,获得比较结果;第一二路选择器,用于根据比较结果,获得第一临时值和第二临时值中的较大值;第二二路选择器,用于根据比较结果,获得第一临时值和第二临时值中的较小值;二阶矩估计模块包括:第二移位寄存器,用于对较小值右移两位操作,获得第三临时值;第三移位寄存器,用于对较小值右移四位操作,获得第四临时值;第四移位寄存器,用于对较小值右移六位操作,获得第五临时值;第一加法器,用于对较大值与第三临时值进行加法计算,获得第六临时值;第二加法器,用于对第四临时值与第五临时值进行加法计算,获得第七临时值;第三加法器,用于对第七临时值与第六临时值进行加法计算,获得本步二阶矩估计开平方值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区清华园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。