买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:西安家育宝智能科技有限公司
摘要:本申请提供一种基于思维树的大语言模型的推理方法及装置,属于人工智能技术领域。该方法包括:将第一问题输入至大语言模型,得到第二问题;大语言模型根据第二问题构建第一思维树,第一思维树包括根节点和多个子节点;对于每个子节点,将子节点与根节点进行拼接,作为第三问题输入至大语言模型进行评分,得到评分结果;根据评分结果,确定保留子节点或者剪枝子节点;重复执行将第二问题输入至大语言模型的处理,直至达到预设停止条件,得到第二思维树;将第二思维树中评分最高的子节点对应的内容确定为最终推理结果。通过该方案,可以提高大语言模型在推理过程中的连贯性和准确性。
主权项:1.一种基于思维树的大语言模型的推理方法,其特征在于,所述方法包括:S1,将第一问题输入至大语言模型,得到第二问题;所述第一问题是原始自然语言问题,所述第二问题是所述大语言模型对所述第一问题进行判断后得到的待推理问题;S2,所述大语言模型根据所述第二问题构建第一思维树,所述第一思维树包括根节点和多个子节点;其中,所述根节点为所述第二问题,每个所述子节点均为与所述第二问题相关的子问题;S3,对于每个所述子节点,将所述子节点与所述根节点进行拼接,作为第三问题输入至所述大语言模型进行评分,得到评分结果;S4,根据所述评分结果,确定保留所述子节点或者剪枝所述子节点;S5,重复执行S2至S4,直至达到预设停止条件,得到第二思维树;S6,将所述第二思维树中评分最高的子节点对应的内容确定为最终推理结果。
全文数据:
权利要求:
百度查询: 西安家育宝智能科技有限公司 基于思维树的大语言模型的推理方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。