买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜山东浪潮科学研究院有限公司申请的专利一种GPU内存优化管理方法与系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119645672B 。

龙图腾网通过国家知识产权局官网在2025-05-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510188597.5，技术领域涉及：G06F9/50；该发明授权一种GPU内存优化管理方法与系统是由王景;赵鑫鑫;薛海军;姜凯设计研发完成，并于2025-02-20向国家知识产权局提交的专利申请。

本一种GPU内存优化管理方法与系统在说明书摘要公布了：本发明涉及内存管理技术领域，特别涉及一种GPU内存优化管理方法与系统。该GPU内存优化管理方法，将图形处理器GPU设备端的内存空间划分为指令内存区、受控内存区和自主内存区；制定内存分配方案，构造内存管理容器，为每个核函数分配一个键值，并为每个键值分配一个单链表，写入到受控内存区指定内存中；根据键值及单链表，获取推理过程中每个核函数所需要的内存空间，将推理结果数据存入受控内存区中指定的输出数据内存空间。该GPU内存优化管理方法与系统，优化了内存空间的利用，实现了最大化的内存复用，避免了中央处理器CPU主机端和图形处理器GPU设备端程序频繁的交替执行，减少了系统整体的调度开销，提高了推理效率。

本发明授权一种GPU内存优化管理方法与系统在权利要求书中公布了：1.一种GPU内存优化管理方法，其特征在于：适用于异构计算平台，异构计算平台硬件架构分为主机端和设备端两部分，两者通过PCIe高速总线互相连接；包括以下步骤：步骤S1、针对设备端进行区域划分；基于神经网络处理的数据规模及神经网络自身的程序规模，将图形处理器GPU设备端的内存空间划分为三个区域，分别为：指令内存区、受控内存区和自主内存区；步骤S2、在神经网络模型推理过程中，制定内存分配方案；根据神经网络模型的网络层次结构，分别为每一层网络自定义设计对应的图形处理器GPU设备端核函数；分析模型推理过程，确定各核函数的执行顺序，以核函数为节点构造有向无环图；根据每个核函数的输入输出参数数据，以及有向无环图中核函数间的数据依赖关系，确定每个内存对象的生命周期，从而进一步确定每个核函数执行时占用的内存空间，生成核函数内存需求表；基于核函数内存需求表确定申请的内存空间大小，根据核函数内存需求表中各核函数的内存需求，分配过程中考虑复用生命周期已结束的内存空间，生成各个内存空间的起始地址和尺寸大小；步骤S3、写入内存分配方案；构造一个内存管理容器，根据具体的神经网络模型的层次结构，为每个核函数分配一个键值，并为每个键值分配一个单链表，单链表用于存储步骤S2中生成的对应的核函数所需的所有内存空间的起始地址和尺寸；完成内存管理容器的数据填充后，主机端程序将内存管理器数据结构写入到设备端受控内存区指定内存中；步骤S4、执行内存分配方案；神经网络模型在设备端执行时，首先从受控内存区指定内存中读取内存管理容器的参数，通过预定的键值及单链表，在内存管理器中查询获取推理过程中每个核函数所需要的内存空间；直到完成全部推理过程，将推理结果数据存入到受控内存区中指定的输出数据内存空间。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司，其通讯地址为：250000 山东省济南市高新区浪潮路1036号S02号楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。