首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

大语言模型垂类领域优化方法及相关设备 

申请/专利权人:北京应用物理与计算数学研究所

申请日:2024-03-28

公开(公告)日:2024-06-25

公开(公告)号:CN118246459A

主分类号:G06F40/35

分类号:G06F40/35;G06F16/332;G06F16/335;G06F40/151;G06F40/205

优先权:

专利状态码:在审-公开

法律状态:2024.06.25#公开

摘要:本发明提供一种大语言模型垂类领域优化方法,包括:获取大语言模型针对提示文本的回答文本,提示文本包括问题文本以及与问题文本对应的知识文本,知识文本通过向量嵌入层以及专用知识向量数据库进行匹配得到;大语言模型的每次回答完成,根据回答文本、问题文本以及知识文本确定出一个多元组对,并将多元组对记录到关联数据库中;每当关联数据库中收集到T个多元组对时,根据关联数据库中的所有多元组对来对大语言模型以及向量嵌入层进行优化。本发明可以确定大语言模型在各垂类领域小样本专用知识应用的优化方向,在保证大模型通用能力的基础上,解决小样本专用知识适配性不足的问题,还可以垂类领域的大语言模型训练和垂类领域的知识扩展。

主权项:1.一种大语言模型垂类领域优化方法,其特征在于,所述大语言模型垂类领域优化方法包括:获取大语言模型针对提示文本的回答文本,所述提示文本包括问题文本以及与所述问题文本对应的知识文本,所述问题文本为垂类领域的问题文本,所述知识文本为所述垂类领域的知识文本,所述知识文本通过向量嵌入层以及专用知识向量数据库进行匹配得到;大语言模型的每次回答完成,根据所述回答文本、所述问题文本以及所述知识文本确定出一个多元组对,并将所述多元组对记录到关联数据库中;每当所述关联数据库中收集到T个所述多元组对时,根据所述关联数据库中的所有所述多元组对来对所述大语言模型以及所述向量嵌入层进行优化。

全文数据:

权利要求:

百度查询: 北京应用物理与计算数学研究所 大语言模型垂类领域优化方法及相关设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。