买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京有竹居网络技术有限公司
摘要:本申请公开了一种利用子图执行引擎进行模型选择的方法,包括:获取待推理任务对应的模型选择策略,该模型选择策略用于选择执行待推理任务的模型,模型选择策略包括至少一个字段和至少一个字段对应的判断条件。根据预先保存于子图执行引擎中的服务之间的依赖关系,确定获得至少一个字段所需执行的目标服务。执行目标服务以得到至少一个字段的值。根据至少一个字段的值和模型选择策略,确定执行待推理任务的目标模型,目标模型为大模型或者小模型。由此可见,本方案能够基于模型选择策略,来确定究竟是采用大模型还是小模型来执行待推理任务,本方案对小模型的输出格式无严格要求,因此,本方案可以为各种场景对应的待推理任务选择对应的模型。
主权项:1.一种利用子图执行引擎进行模型选择的方法,其特征在于,所述方法包括:获取待推理任务对应的模型选择策略,所述模型选择策略用于选择执行所述待推理任务的模型,所述模型选择策略包括至少一个字段和所述至少一个字段对应的判断条件;根据预先保存于子图执行引擎中的服务之间的依赖关系,确定获得所述至少一个字段所需执行的目标服务;执行所述目标服务以得到所述至少一个字段的值;根据所述至少一个字段的值和所述模型选择策略,确定执行所述待推理任务的目标模型,所述目标模型为大模型或者小模型。
全文数据:
权利要求:
百度查询: 北京有竹居网络技术有限公司 一种利用子图执行引擎进行模型选择的方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。