首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一体化管理大模型数据、微调和预测流程的装置及其方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中盈优创资讯科技有限公司

摘要:本发明公开一体化管理大模型数据、微调和预测流程的装置及其方法,其中,该装置包括:根据需求选择包含以下所有模块或者从以下所有模块中选择包含部分模块:全局配置模块、数据接入模块、数据标准化模块、大模型微调训练模块、大模型多场景部署模块和大模型预测模块。该装置及方法将各类异构数据源的接入、数据的加工转换、大模型微调和基于大微调模型的预测整合为一个统一的管理流程,通过JSON或者HOCON等配置格式定义流程,每个环节无需过多关注上下游的技术细节,降低大模型工程能力门槛。

主权项:1.一体化管理大模型数据、微调和预测流程的装置,其特征在于,该装置根据需求选择包含以下所有模块或者从以下所有模块中选择包含部分模块:全局配置模块,用于配置原始模型的存储路径、微调后模型的存储路径以及模型存储的连接信息;数据接入模块,用于接入语料数据和待预测数据,支持多种异构数据源;数据标准化模块,用于加工处理接入的数据,生成符合模型微调要求的语料数据和用于模型预测的数据;大模型微调训练模块,用于加载原始模型,读取语料数据,并配置大模型微调训练相关参数;执行大模型微调训练后,将微调后的模型进行存储;大模型多场景部署模块,用于将微调后的模型根据不同的场景进行部署;提供HTTP服务接口和SparkSQL函数;大模型预测模块,用于基于大模型多场景部署模块部署的模型,对数据接入模块接入的数据,使用指定参数调用SparkSQL函数进行预测,并将预测结果写入目标存储。

全文数据:

权利要求:

百度查询: 中盈优创资讯科技有限公司 一体化管理大模型数据、微调和预测流程的装置及其方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。