买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利基于高速互通连接的语言模型检索推理系统、方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119902900B 。

龙图腾网通过国家知识产权局官网在2025-07-15发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510389049.9，技术领域涉及：G06F9/50；该发明授权基于高速互通连接的语言模型检索推理系统、方法是由王云;李金锋设计研发完成，并于2025-03-31向国家知识产权局提交的专利申请。

本基于高速互通连接的语言模型检索推理系统、方法在说明书摘要公布了：本申请公开基于高速互通连接的语言模型检索推理系统、方法，包括：主机、高速互通连接交换机、高速互通连接内存池、图像处理器，高速互通连接内存池内包括近存计算内存、双倍数据传输率内存，高速互通连接交换机内包含自适应分区模块；其中，主机通过高速互通连接交换机分别与高速互通连接内存池、图像处理器相连；主机，用于接收第一提示词，生成第二提示词，并将第二提示词通过高速互通连接交换机存储至双倍数据传输率内存；主机，还用于通过高速互通连接交换机，从双倍数据传输率内存中提取第二提示词进行推理，并利用连接到的高速互通连接交换机内自适应分区模块，确定推理阶段的任务分配对象，其中，分配对象为近存计算内存或图像处理器。

本发明授权基于高速互通连接的语言模型检索推理系统、方法在权利要求书中公布了：1.一种基于高速互通连接的语言模型检索推理系统，其特征在于，所述系统包括：主机、高速互通连接交换机、高速互通连接内存池、图像处理器、内存迁移模块，所述高速互通连接内存池内包括近存计算内存、双倍数据传输率内存以及所述内存迁移模块，所述高速互通连接交换机内包含自适应分区模块；其中，所述主机通过所述高速互通连接交换机分别与所述高速互通连接内存池、图像处理器相连； 所述主机，用于接收第一提示词，并基于所述第一提示词开启检索阶段，对所述第一提示词进行向量化处理和数据库检索，生成第二提示词，并将所述第二提示词通过所述高速互通连接交换机存储至所述双倍数据传输率内存，其中，所述双倍数据传输率内存包括非固定内存池和固定内存池； 所述主机，还用于通过所述高速互通连接交换机，从所述双倍数据传输率内存中提取所述第二提示词，并对所述第二提示词进行推理，并利用连接到的所述高速互通连接交换机内所述自适应分区模块，确定推理阶段的任务分配对象； 所述内存迁移模块，用于将所述第一提示词和所述第二提示词通过所述高速互通连接交换机存储至所述非固定内存池、将分配对象对步骤任务进行计算后得到的向量值，通过所述高速互通连接交换机从PNM内存或GPU的本地内存迁移至所述非固定内存池，将推理阶段生成的中间参数、可变参数通过所述高速互通连接交换机存储至所述非固定内存池；将语言模型的权重、检索阶段和推理阶段的固定参数，以及非固定内存池和固定内存池内所有参数的存储地址的存储地址，通过所述高速互通连接交换机存储至所述固定内存池； 所述自适应分区模块，用于获取所述第二提示词在推理阶段执行的所有步骤任务的算力，并基于所述算力确定所述步骤任务的分配对象，将所述步骤任务分配至对应的所述分配对象中进行任务计算，其中，所述分配对象为所述近存计算内存或所述图像处理器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。