买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：上海人工智能创新中心

摘要：本发明总的来说涉及深度学习技术领域，提出一种张量引用算子在深度学习编译器中的表示及融合方法，该方法包括下列步骤：将神经网络计算图输入深度学习编译器中；在所述深度学习编译器中将所述神经网络计算图翻译为张量表达式，其中对所述神经网络计算图中的张量的读写依赖关系进行记录；以及根据所述读写依赖关系构造算子图，并且对张量引用算子进行融合优化。

主权项：1.一种张量引用算子在深度学习编译器中的表示及融合方法，其特征在于，包括下列步骤：将神经网络计算图输入深度学习编译器中；在所述深度学习编译器中将所述神经网络计算图翻译为张量表达式，其中对所述神经网络计算图中的张量的读写依赖关系进行记录；以及根据所述读写依赖关系构造算子图，其中对张量引用算子进行融合优化；其中将所述神经网络计算图中的张量划分为：TWF张量，其所在的操作包括对所述TWF张量指向的物理空间进行第一次写操作；VRF张量，其被配置为表示张量引用算子的返回值，其中所述VRF张量所在的操作包括在所述VRF张量指向的物理空间的第一次写操作之后、第二次写操作之前对所述VRF张量指向的物理空间进行数据读取；TRF张量，其被配置为不进行张量引用操作，其中所述TRF张量所在的操作包括在所述TRF张量指向的物理空间的第一次写操作之后、第二次写操作之前对所述TRF张量指向的物理空间进行数据读取；VWS张量，其被配置为表示张量引用算子的返回值，其中所述VWS张量所在的操作包括在所述VWS张量指向的物理空间进行第二次或者大于第二次的写操作；TWS张量，其被配置为不进行张量引用操作，其中所述TWS张量所在的操作包括在所述TWS张量指向的物理空间进行第二次或者大于第二次的写操作；VRS张量，其被配置为表示张量引用算子的返回值，其中所述VRS张量所在的操作包括在第二次写操作之后对所述VRS张量指向的物理空间进行数据读取；以及TRS张量，其被配置为不进行张量引用操作，其中所述TRS张量所在的操作包括在第二次写操作之后对所述TRS张量指向的物理空间进行数据读取；将所述神经网络计算图中的张量翻译为TensorRef数据结构，其中所述TensorRef数据结构被配置为存储张量的形状、张量的跨步、张量的存储空间地址以及读写依赖关系向量，所述读写依赖关系向量被配置为记录所述读写依赖关系；记录所述神经网络计算图中的张量的读写依赖关系包括：记录在所述VRF张量所在的操作之前对所述VRF张量指向的物理空间执行的写操作；记录所述神经网络计算图中的张量的读写依赖关系包括：记录在所述VRF张量所在的操作之前对所述VRF张量指向的物理空间执行的写操作；记录在所述VWS张量和\或所述TWS张量所在的操作与最近一次对所述VWS张量和\或所述TWS张量指向的物理空间执行写操作之间所有的读操作；当不存在所述读操作时，记录距离所述VWS张量和\或所述TWS张量所在的操作最近的对所述VWS张量和\或所述TWS张量指向的物理空间执行的写操作；以及记录距离所述VRS张量和\或所述TRS张量所在的操作最近的对所述VRS张量和\或所述TRS张量指向的物理空间执行的写操作。

全文数据：

权利要求：

百度查询： 上海人工智能创新中心 张量引用算子在深度学习编译器中的表示及融合方法