龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：北京深势科技有限公司
申请日：2024-05-31
公开（公告）日：2024-06-28
公开（公告）号：CN118260429A
主分类号：G06F16/35
分类号：G06F16/35;G06F16/33;G06F40/30;G06F18/23
优先权：
专利状态码：在审-公开
法律状态：2024.06.28#公开
摘要：本发明实施例涉及一种对大语言模型微调数据集进行优化的处理方法和装置，所述方法包括：初始化第一样本库；基于第一样本评分模型对第一样本库的各样本记录的所有评分字段进行设置；基于第一样本标签模型对第一样本库的各样本记录的标签集字段进行设置；基于样本标签对第一样本库的所有样本记录进行聚类得到多个第一类标签记录簇；以预设的数据分布指标集为参考根据得到的所有第一类标签记录簇和第一样本库进行微调数据集构建得到对应的第一微调数据集。通过本发明可以提高微调数据集的数据质量。
主权项：1.一种对大语言模型微调数据集进行优化的处理方法，其特征在于，所述方法包括：对第一基版模型对应的指定微调领域的文本语料进行大数据采集并基于采集结果初始化对应的第一样本库；基于预设的第一样本评分模型对所述第一样本库的各样本记录分别进行语义丰富度、语法复杂度和内容创新性评分并基于评分结果对样本记录的所有评分字段进行设置；基于预设的第一样本标签模型对所述第一样本库的各样本记录分别进行标签生成处理并基于处理结果对样本记录的标签集字段进行设置；基于样本标签对所述第一样本库的所有样本记录进行聚类得到对应的多个第一类标签记录簇；以预设的数据分布指标集为参考根据得到的所有所述第一类标签记录簇和所述第一样本库进行微调数据集构建得到对应的第一微调数据集；所述数据分布指标集包括多样性指标和均匀度指标；所述多样性指标为一个预设的百分比值，所述均匀度指标为一个预设的样本标准差阈值。
全文数据：
权利要求：
百度查询： 北京深势科技有限公司 一种对大语言模型微调数据集进行优化的处理方法和装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号