首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

大语言模型的训练方法、利用大语言模型生成代码的方法 

申请/专利权人:上海数中科技有限公司

申请日:2024-03-28

公开(公告)日:2024-06-28

公开(公告)号:CN118261201A

主分类号:G06N3/0455

分类号:G06N3/0455;G06N3/08;G06F8/30;G06F16/242;G06F16/28

优先权:

专利状态码:在审-公开

法律状态:2024.06.28#公开

摘要:本申请涉及人工智能和大语言模型技术领域,本申请提供一种大语言模型的训练方法、利用大语言模型生成代码的方法,该方法包括:获取训练数据集;获取第一指令模板;基于第一指令数据集对第一大语言模型进行训练,得到更新后的第一大语言模型。本申请通过获取训练数据集和对应的建表语句,从而将训练数据集中语句数据对和建表语句填入第一指令模板后生成第一指令数据集,并基于第一指令数据集对大语言模型进行指令微调,使得更新后的第一大语言模型生成代码的准确度提升,优化模型性能。

主权项:1.一种大语言模型的训练方法,其特征在于,所述方法包括:获取训练数据集和所述训练数据集对应的建表语句,所述训练数据集包括多个语句数据对,每个语句数据对包括一个自然语句,以及,所述自然语句对应的代码,所述代码为所述自然语句对应的语义内容的代码表示;获取第一指令模板,所述第一指令模板为用于指示生成代码的模板;基于第一指令数据集对第一大语言模型进行训练,得到更新后的第一大语言模型,所述第一指令数据集为所述训练数据集和所述训练数据集对应的建表语句填入所述第一指令模板得到的数据集,所述更新后的第一大语言模型用于基于输入的目标自然语句生成所述目标自然语句对应的代码。

全文数据:

权利要求:

百度查询: 上海数中科技有限公司 大语言模型的训练方法、利用大语言模型生成代码的方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。