买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国科学院深圳先进技术研究院

摘要：本申请涉及一种人工智能模型请求响应机制优化方法、系统、终端以及存储介质。所述方法包括：获取当前人工智能模型请求的目标模型；采用频繁模式树筛选出能够与所述目标模型构成频繁模型组的至少一个其他人工智能模型；所述频繁模型组为同时使用次数大于设定频繁程度阈值的至少两个人工智能模型的组合；采用连带打包传输机制将所述目标模型以及所述至少一个其他人工智能模型打包传输至模型请求方。本申请在传输模型请求所需要的目标模型的同时，连带传输所有能够与该目标模型构成频繁模型组的其他模型，以避免在下一次响应模型请求时由于单个模型传输不可打包而造成的传输代价浪费，有效的降低了响应人工智能模型请求的代价成本。

主权项：1.一种人工智能模型请求响应机制优化方法，其特征在于，包括：获取当前人工智能模型请求的目标模型；采用频繁模式树筛选出能够与所述目标模型构成频繁模型组的至少一个其他人工智能模型；所述频繁模型组为同时使用次数大于设定频繁程度阈值的至少两个人工智能模型的组合；采用连带打包传输机制将所述目标模型以及所述至少一个其他人工智能模型打包传输至模型请求方；所述采用连带打包传输机制将所述目标模型以及所述至少一个其他人工智能模型打包传输至模型请求方具体为：判断所述频繁模型组信息对应的人工智能模型在云服务器本地是否存在可用的模型缓存副本，如果存在，利用所述本地的模型缓存副本响应当前人工智能模型请求；如果不存在，判断当前人工智能模型请求属于单模型请求还是多模型请求，如果是单模型请求，执行以下单模型请求处理过程：在拥有所述目标模型的任一分布式云服务器上计算所述目标模型的F集合，并复制所述目标模型以及F集合中的模型后，利用连带打包传输机制将所述目标模型以及F集合中的模型一起打包传输至模型请求方；其中，所述单模型请求是指所请求的目标模型仅包括一个，所述多模型请求是指所请求的目标模型包括至少两个；所述F集合是指在拥有目标模型的云服务器上存在的能与该目标模型构成频繁模型组且在当前云服务器本地没有缓存副本的人工智能模型的集合；如果是多模型请求，判断当前人工智能模型请求的至少两个目标模型中是否至少有一个目标模型不存在本地缓存副本，如果是，对所述不存在本地缓存副本的目标模型执行单模型请求处理过程；否则，判断当前人工智能模型请求的至少两个目标模型是否能够构成频繁模型组，如果不能，针对每一个目标模型分别执行一次单模型请求处理过程；如果可以，判断是否存在同时拥有所述至少两个目标模型的另一个云服务器，如果不存在，针对每一个目标模型分别执行一次单模型请求处理过程；如果存在，从所述同时拥有至少两个目标模型的另一个云服务器中获取至少两个目标模型以及对应的两个F集合，并获取两个F集合的并集，将所述两个目标模型以及F集合的并集中的全部模型进行复制并连带打包传输至模型请求方。

全文数据：

权利要求：

百度查询： 中国科学院深圳先进技术研究院 人工智能模型请求响应机制优化方法、系统、终端及介质