首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种完全无监督的大语言模型微调训练平台_行至智能(北京)技术有限公司_202410326021.6 

申请/专利权人:行至智能(北京)技术有限公司

申请日:2024-03-21

公开(公告)日:2024-06-11

公开(公告)号:CN118171650A

主分类号:G06F40/289

分类号:G06F40/289;G06F40/151;G06F40/194;G06N5/04;G06F40/216;G06F16/332;G06F16/34;G06F40/58;G06N3/088

优先权:

专利状态码:在审-公开

法律状态:2024.06.11#公开

摘要:本发明公开了一种完全无监督的大语言模型微调训练平台,包括源数据集管理模块,用于对上传文本进行处理,生成用于符合微调训练的数据;模型微调训练模块,用于选择微调训练的模型以及对训练后的模型进行测试评价;数据推理生成模块,用于基于任务需求将相关的数据输入对应的模型,并对模型生成的数据进行打分审核;本发明极大降低大模型微调训练数据准备阶段人力成本和时间成本,所使用的预训练数据推理大模型的实际效果极佳,生成的数据超越普通业务人员人工编写标注的数据,这极大地保证了模型微调训练的效果质量。

主权项:1.一种完全无监督的大语言模型微调训练平台,其特征在于,包括:源数据集管理模块,用于对上传文本进行处理,生成用于符合微调训练的数据;模型微调训练模块,用于选择微调训练的模型以及对训练后的所述模型进行测试评价;数据推理生成模块,用于基于任务需求将相关的所述数据输入对应的所述模型,并对所述模型生成的数据进行打分审核;其中,所述源数据集管理模块包括数据管理子模块和数据处理子模块,所述数据管理子模块具有对所述上传文本进行增删改查功能,所述数据子模块包括OCR解析处理和文本段落分割处理,所述OCR解析处理包括将不同格式的文档转换为文本数据,所述文本段落分割处理包括将所述文本数据进行初步分割,获得多个段落;利用文本相似度计算算法去提取每个所述段落的主题,若所述段落的主题相同则不分割,若所述段落的主题不相同,则按照所述主题进行分割;将分割后的所述段落按照模型理解长度进行分割。

全文数据:

权利要求:

百度查询: 行至智能(北京)技术有限公司 一种完全无监督的大语言模型微调训练平台

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。