申请/专利权人:北京中关村软件园发展有限责任公司
申请日:2024-05-16
公开(公告)日:2024-06-11
公开(公告)号:CN118171743A
主分类号:G06N5/04
分类号:G06N5/04;G06F40/30;G06F18/22
优先权:
专利状态码:在审-公开
法律状态:2024.06.11#公开
摘要:本申请实施例提供了一种AI智算平台管理方法及系统,可以解决目前不同企业在对人工智能语言模型通常是基于基础模型产品进行适用于企业业务场景的二次开发得到的,企业运用人工智能模型进行用户服务时通常会产生购买基础模型产品推理算力产生的成本,在不能基于用户需求进行推理模型合理配置的情况下,易造成无法满足用户需求或模型推理能力盈余造成的成本及资源待优化的问题。其中,所述方法包括:获取目标智算请求的业务类型,所述业务类型是基于所述目标智算请求携带的语义信息确定的;基于分析获得的业务类型生成场景辅助确认问题,以获取所述场景辅助确认问题的反馈信息;分析所述反馈信息以匹配相应的大语言模型。
主权项:1.一种AI智算平台管理方法,其特征在于,所述方法包括:获取目标智算请求的业务类型,所述业务类型是基于所述目标智算请求携带的语义信息确定的;基于分析获得的业务类型生成场景辅助确认问题,以获取所述场景辅助确认问题的反馈信息;分析所述反馈信息以匹配相应的大语言模型,其中,不同大语言模型的反馈迸发速度和文本推理成本不同。
全文数据:
权利要求:
百度查询: 北京中关村软件园发展有限责任公司 AI智算平台管理方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。