首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

面向移动设备异构核心的变换网络任务分配方法及装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中南大学;上海传英信息技术有限公司

摘要:本发明涉及一种面向移动设备异构核心的变换网络任务分配方法及装置,方法包括将变换神经网络的矩阵乘法算子划分为第一维度、第二维度、第三维度三个并行维度;在三个并行维度将变换神经网络矩阵乘法算子进行切分,并将切分后的矩阵乘法算子分别分配给CPU和GPU计算,再将计算结果进行拼接、求和。本方法具备有效降低处理延时的优点。

主权项:1.一种面向移动设备异构核心的变换网络任务分配方法,其特征在于:将变换神经网络的矩阵乘法算子划分为第一维度、第二维度、第三维度三个并行维度;在所述第一维度,将所述矩阵乘法算子的左矩阵A按照预设的第一切分值上下切分为A10、A11为A的子矩阵,所述矩阵乘法算子的右矩阵B保持不变;并构建由子矩阵A10和A11分别和右矩阵B组成的子矩阵乘法算子A10×B和A11×B,将该两个子矩阵乘法算子分别分配给CPU和GPU进行计算,并将计算得到的结果矩阵拼接得到第一结果矩阵;在所述第二维度,将所述矩阵乘法算子的左矩阵A按照预设的第二切分值左右切分为[A20A21],A20、A21为A的子矩阵,将所述矩阵乘法算子的右矩阵B按照预设的第二切分值上下切分为B20、B21为B的子矩阵;并构建由子矩阵A20和子矩阵B20组成的子矩阵乘法算子A20×B20,由子矩阵A21和子矩阵B21组成的子矩阵乘法算子A21×B21,将该两个子矩阵乘法算子分别分配给CPU和GPU进行计算,并将计算得到的结果矩阵求和得到第二结果矩阵;在所述第三维度,将所述矩阵乘法算子的左矩阵A保持不变,将所述矩阵乘法算子的右矩阵B按照预设的第三切分值左右切分为[B30B31],B30、B31为B的子矩阵;并构建由左矩阵A分别和子矩阵B30、B31组成的子矩阵乘法算子A×B30和A×B31,将该两个子矩阵乘法算子分别分配给CPU和GPU进行计算,并将计算得到的结果矩阵拼接得到第三结果矩阵;将所述第一结果矩阵、第二结果矩阵、第三结果矩阵求和得到计算结果。

全文数据:

权利要求:

百度查询: 中南大学 上海传英信息技术有限公司 面向移动设备异构核心的变换网络任务分配方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。