首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种大语言模型进行自校正事实增强的处理方法和装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:北京深势科技有限公司

摘要:本发明实施例涉及一种大语言模型进行自校正事实增强的处理方法和装置,所述方法包括:构建带有正反向两类标签的问答模型预训练语料库;选择一类基于Transformer模型结构实现的大语言模型作为参考模型;基于语料库的正向标签对参考模型进行预训练得到基版模型参数集;基于语料库的反向标签对参考模型的基版解码器参数进行微调;对参考模型进行改造得到对应的改造模型;并基于基版模型参数集和微调解码器参数对改造模型的模型参数进行设置;基于改造模型对用户输入的任意问题文本进行对应的答案文本生成处理得到对应的当前答案文本并显示。通过本发明可以降低模型产生幻觉问题的几率,可以提高模型处理效率、提升用户使用体验。

主权项:1.一种大语言模型进行自校正事实增强的处理方法,其特征在于,所述方法包括:构建一个带有正反向两类标签的问答模型预训练语料库记为对应的第一语料库;选择一类基于Transformer模型结构实现的大语言模型作为对应的第一参考模型;基于所述第一语料库的正向标签对所述第一参考模型进行预训练得到对应的基版模型参数集;所述基版模型参数集包括基版编码器参数、基版解码器参数和基版生成器参数;基于所述第一语料库的反向标签对所述第一参考模型的所述基版解码器参数进行微调训练得到对应的微调解码器参数;对所述第一参考模型进行改造得到对应的第一改造模型;并基于所述基版编码器参数、所述基版解码器参数、所述基版生成器参数和所述微调解码器参数对所述第一改造模型的模型参数进行设置;基于所述第一改造模型对用户输入的任意问题文本进行对应的答案文本生成处理得到对应的当前答案文本并显示。

全文数据:

权利要求:

百度查询: 北京深势科技有限公司 一种大语言模型进行自校正事实增强的处理方法和装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。