申请/专利权人:中国科学院自动化研究所
申请日:2024-03-12
公开(公告)日:2024-06-21
公开(公告)号:CN118228774A
主分类号:G06N3/0464
分类号:G06N3/0464;G06N3/063;G06F17/16;G06F17/15
优先权:
专利状态码:在审-公开
法律状态:2024.06.21#公开
摘要:本发明提供一种基于脉冲神经网络的残差网络优化方法、装置及电子设备。该方法包括:在每个卷积层的输入端设置有LIF神经元的激活函数的情况下,对卷积模块的输出矩阵和或跳跃连接模块的输出矩阵进行脉冲化处理,得到第一脉冲矩阵;将第一脉冲矩阵转换为第一膜电位矩阵;将第一膜电位矩阵传递至加法模块进行相加,得到残差块的输出矩阵;在每个批标准化层的输出端设置有LIF神经元的激活函数的情况下,对卷积模块的输出矩阵和跳跃连接模块的输出矩阵进行转换处理,分别得到第二膜电位矩阵和第三膜电位矩阵;将第二膜电位矩阵和第三膜电位矩阵传递至加法模块进行相加,得到第四膜电位矩阵;对第四膜电位矩阵进行脉冲化处理,得到残差块的输出矩阵。
主权项:1.一种基于脉冲神经网络的残差网络优化方法,其特征在于,所述残差网络包括至少一个残差块,每个残差块包括跳跃连接模块、卷积模块和加法模块;所述卷积模块包括多个卷积层和多个批标准化层,每个卷积层后设置有一个批标准化层;所述方法包括:在所述每个卷积层的输入端设置有LIF神经元的激活函数的情况下,对所述卷积模块的输出矩阵和或所述跳跃连接模块的输出矩阵进行脉冲化处理,得到第一脉冲矩阵;将所述第一脉冲矩阵转换为第一膜电位矩阵;将所述第一膜电位矩阵传递至所述加法模块进行相加,得到所述残差块的输出矩阵;在每个批标准化层的输出端设置有LIF神经元的激活函数的情况下,对所述卷积模块的输出矩阵和所述跳跃连接模块的输出矩阵进行转换处理,分别得到第二膜电位矩阵和第三膜电位矩阵;将所述第二膜电位矩阵和所述第三膜电位矩阵传递至所述加法模块进行相加,得到第四膜电位矩阵;对所述第四膜电位矩阵进行脉冲化处理,得到所述残差块的输出矩阵。
全文数据:
权利要求:
百度查询: 中国科学院自动化研究所 基于脉冲神经网络的残差网络优化方法、装置及电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。