首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】基于L1范数组归一化的卷积神经网络电路的归一化方法_东南大学_202010710671.2 

申请/专利权人:东南大学

申请日:2020-07-22

公开(公告)日:2024-06-21

公开(公告)号:CN111985613B

主分类号:G06N3/0464

分类号:G06N3/0464;G06N3/063;G06N3/08

优先权:

专利状态码:有效-授权

法律状态:2024.06.21#授权;2020.12.11#实质审查的生效;2020.11.24#公开

摘要:本发明公开了基于L1范数组归一化的卷积神经网络电路的归一化方法,属于计算、推算或计数的技术领域,该方法通过对输入数据进行通道方向的分组后进行基于L1范数的组归一化,使用基于L1范数的组归一化避免了平方运算与开方运算,同时保证了在批样本数较小时神经网络的准确率。相比于使用基于L2范数的批量归一化,该方法在保证准确率的前提下有效降低了神经网络的计算量和存储量,极大地降低了神经网络电路的功耗,并提升了电路的能效。

主权项:1.基于L1范数组归一化的卷积神经网络电路的归一化方法,其特征在于,将包括四个维度N,H,W,C的输入数据划分为五个维度N,G,H,W,CG,N为批样本数大小,H为输入图片高度,W为输入图片宽度,C为输入图片通道数,G为组归一化的分组个数;在各组输入数据内进行基于L1范数的组内归一化处理,具体方法为:对于第i组输入数据xj,通过表达式计算第i组的归一化结果μi与σi分别为第i组输入数据的均值和方差,ε为防止分母为零的一极小数值;将各组归一化结果还至四个维度N,H,W,C,对每个通道输入的归一化数据进行缩放和平移。

全文数据:

权利要求:

百度查询: 东南大学 基于L1范数组归一化的卷积神经网络电路的归一化方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。