首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】基于MAC乘加阵列的稀疏化运算数据的获取方法及系统_北京清微智能科技有限公司_202011640074.3 

申请/专利权人:北京清微智能科技有限公司

申请日:2020-12-31

公开(公告)日:2024-06-07

公开(公告)号:CN112712173B

主分类号:G06N3/063

分类号:G06N3/063;G06N3/08;G06F17/16

优先权:

专利状态码:有效-授权

法律状态:2024.06.07#授权;2021.05.14#实质审查的生效;2021.04.27#公开

摘要:本发明提供了基于MAC乘加阵列的稀疏化运算数据的获取方法,其包括:将待计算的稀疏化权重矩阵的行列方向以O行I列作为一个划分单元。沿待计算的稀疏化权重矩阵的列方向读取一个或多个单元块。生成多种工作模式。整合到一个M行N列的计算阵列中。通过MAC乘加阵列实现矩阵乘计算时,将计算阵列转置后作为乘数项,计算矩阵行方向的有效权重值的单元能够作为特征权重值计算。本发明通过对待计算的稀疏化权重矩阵的划分,使其划分后的单元能够满足MAC乘加阵列的运算结构,从而利用少量的资源并行处理多个非零权重。传统稀疏化过程。同时,本发明还提供了基于MAC乘加阵列的稀疏化运算数据的获取系统。

主权项:1.基于MAC乘加阵列的稀疏化运算数据的获取方法,所述MAC乘加阵列为O行I列矩阵;所述MAC乘加阵列包括I×O个计算单元,其中,沿所述MAC乘加阵列的列方向具有I位输入通道,其每个输入通道对应一个所述计算单元;沿所述MAC乘加阵列的行方向具有O位输出通道,其每个输入通道对应一个所述计算单元;所述基于MAC乘加阵列的稀疏化运算数据的获取方法包括:步骤S101,将待计算的稀疏化权重矩阵的行列方向以所述O行I列作为一个划分单元,根据所述划分单元将所述稀疏化权重矩阵划沿其列方向分为多个单元块;每个所述单元块中包括多个具有有效权重值的单元;步骤S102,沿所述待计算的稀疏化权重矩阵的列方向读取一个或多个单元块;若一个或多个所述单元块中有效权重值的单元数量等于I×O2且在一个或多个所述单元块的每一列中,其有效权重值的单元数量均在I以下,则生成与所述一个或多个所述单元块对应的多种工作模式;所述步骤S102包括:沿所述待计算的稀疏化权重矩阵的列方向读取1个单位块作为第一划分单元;若所述第一划分单元中有效权重值的单元数量等于I×O2且在所述第一划分单元的每一列中,其有效权重值的单元数量均在I以下,则生成第一种工作模式;或沿所述待计算的稀疏化权重矩阵的列方向读取2个单位块作为第二划分单元;若所述第二划分单元中有效权重值的单元数量等于I×O2且在所述第二划分单元的每一列中,其有效权重值的单元数量均在I以下,则生成第二种工作模式;或沿所述待计算的稀疏化权重矩阵的列方向读取4个单位块作为第三划分单元;若所述第三划分单元中有效权重值的单元数量等于I×O2且在所述第三划分单元的每一列中,其有效权重值的单元数量均在I以下,则生成第三种工作模式;或沿所述待计算的稀疏化权重矩阵的列方向读取8个单位块作为第四划分单元;若所述第四划分单元中有效权重值的单元数量等于I×O2且在所述第四划分单元的每一列中,其有效权重值的单元数量均在I以下,则生成第四种工作模式;步骤S103,根据所述多种工作模式沿所述稀疏化权重矩阵的列方向读取一个或多个单元块;将一个或多个单元块中有效权重值的单元整合到一个M行N列的计算阵列中;所述计算阵列中的有效权重值的单元沿列方向依次排布;所述M行对应O行;所述N列对应I列;所述步骤S103中所述将一个或多个单元块中有效权重值的单元整合到一个M行N列的计算阵列中的步骤包括:读取一个或多个单元块;根据各列中的行排序依次读取各单元,若当前读取单元是有效权重值的单元,则将当前有效权重值的单元与上一有效权重值的单元沿行排序沿列向依次排列;所述步骤S103包括:根据所述第一种工作模式沿所述稀疏化权重矩阵的列方向读取所述第一划分单元;将所述第一划分单元的有效权重值的单元整合到一个M行N列的计算阵列中;所述计算阵列中的有效权重值的单元沿列方向依次排布;或根据所述第二种工作模式沿所述稀疏化权重矩阵的列方向读取所述第二划分单元;将所述第二划分单元的有效权重值的单元整合到一个M行N列的计算阵列中;所述计算阵列中的有效权重值的单元沿列方向依次排布;或根据所述第三种工作模式沿所述稀疏化权重矩阵的列方向读取所述第三划分单元;将所述第三划分单元的有效权重值的单元整合到一个M行N列的计算阵列中;所述计算阵列中的有效权重值的单元沿列方向依次排布;或根据所述第四种工作模式沿所述稀疏化权重矩阵的列方向读取所述第四划分单元;将所述第四划分单元的有效权重值的单元整合到一个M行N列的计算阵列中;所述计算阵列中的有效权重值的单元沿列方向依次排布;步骤S104,通过所述MAC乘加阵列实现矩阵乘计算时,将所述计算阵列转置后作为乘数项,所述计算阵列行方向的有效权重值的单元能够作为特征权重值计算。

全文数据:

权利要求:

百度查询: 北京清微智能科技有限公司 基于MAC乘加阵列的稀疏化运算数据的获取方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。