首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

用于稀疏神经网络的自适应张量计算核 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:墨子国际有限公司

摘要:公开了用于使用自适应张量计算核来提高神经网络计算的效率的方法、系统和装置,其包括在计算机存储介质上编码的计算机程序。首先,自适应张量计算核可根据输入权重张量的不同形状来调整形状,以便将权重和输入值分配给处理元件PE阵列以用于并行处理。根据张量计算核的形状,可能需要附加的集群间或集群内加法器来执行卷积计算。其次,自适应张量计算核可以支持两种不同的张量操作模式,即,1*1张量操作模式和3*3张量操作模式,以覆盖所有类型的卷积计算。第三,底层PE阵列可以不同地配置各个PE‑内部缓冲器例如,寄存器堆以支持稀疏神经网络的不同压缩比和稀疏粒度。

主权项:1.一种计算机实施的方法,包括:在卷积神经网络CNN的第一层处接收第一输入特征图IFM和一个或多个第一过滤器以用于使用处理元件PE阵列进行卷积,其中,所述PE阵列中的每一个PE包括多个Yl个乘法器,并且所述PE阵列被布置为多个Y2个行和多个X个列;基于所述第一IFM和所述一个或多个第一过滤器来确定原生张量形状,其中,所述原生张量形状包括第一外部维度、内部维度和第二外部维度,其中,所述原生张量形状将所述第一IFM和所述一个或多个第一过滤器映射到所述PE阵列中;在所述CNN的第二层处接收第二IFM和一个或多个第二过滤器以用于使用所述PE阵列进行卷积;基于所述第二IFM和所述一个或多个第二过滤器来对所述原生张量形状进行整形,其中,所述整形包括按比例放大所述内部维度并且按比例缩小所述第一外部维度和所述第二外部维度中的一者,所述按比例放大和所述按比例缩小的因子是F;根据经整形的原生张量将所述一个或多个第二过滤器和所述第二IFM馈送到所述PE阵列中以进行卷积,其中:响应于所述第一外部维度被按比例缩小,所述卷积包括:聚合来自相同行PE的输出F轮以获得部分和,并且响应于所述第二外部维度被按比例缩小,所述卷积包括:将来自每F行PE的输出进行聚合以获得部分和;以及通过对多个所述部分和进行聚合来获得所述CNN的所述第二层处的所述卷积的输出张量,其中,Yl、Y2、X和F均为大于一的整数。

全文数据:

权利要求:

百度查询: 墨子国际有限公司 用于稀疏神经网络的自适应张量计算核

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。