龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京大学
摘要：本发明提供了一种多模态大模型的自适应训练与推理性能优化系统，涉及电数字数据处理领域，包括多模态数据监测模块、模型框架解析模块、对接协议模块和推理优化模块，所述多模态数据监测模块用于监测多模态数据的特征信息，所述模型框架解析模块用于解析训练模型的框架信息并获取训练过程的特征信息，所述对接协议模块用于设置与训练系统的对接方式以及对训练模型的调整方式，所述推理优化模块基于特征信息以及修改方式对训练模型进行优化处理；本系统能够与模型训练系统进行对接，对模型训练系统的训练过程进行监测并分析，对训练框架进行推理性优化，提高对接系统的训练效率。
主权项：1.一种多模态大模型的自适应训练与推理性能优化系统，其特征在于，包括多模态数据监测模块、模型框架解析模块、对接协议模块和推理优化模块；所述多模态数据监测模块用于监测多模态数据的特征信息，所述模型框架解析模块用于解析训练模型的框架信息并获取训练过程的特征信息，所述对接协议模块用于设置与训练系统的对接方式以及对训练模型的调整方式，所述推理优化模块基于特征信息以及修改方式对训练模型进行优化处理；所述多模态数据监测模块包括数据监测单元和数据匹配统计单元，所述数据监测单元用于监测直接输入训练系统的原始多模态数据和输入训练模型的训练数据，所述数据匹配统计单元用于对多模态数据与训练数据进行匹配并统计出输入特征；所述模型框架解析模块包括模型探查单元、框架复现单元和训练监测单元，所述模型探查单元用于对训练模型的框架信息进行探查，所述框架复现单元基于探测结果设置框架网络并基于每个网络节点设置存储区域，所述训练监测单元对训练模型的训练过程进行监测并将监测数据存储至对应的节点存储区域；所述对接协议模块包括系统对接单元和模型协议单元，所述系统对接单元用于设置与训练系统对应接口的连接方式，所述模型协议单元用于记录训练模型的调整方式；所述推理优化模块包括推理分析单元和优化输出单元，所述推理分析单元对节点存储区域中的数据进行优化分析并得到优化方案，所述优化输出单元基于模型协议单元中的协议内容对优化方案进行转换并输出给训练系统。
全文数据：
权利要求：
百度查询： 北京大学 一种多模态大模型的自适应训练与推理性能优化系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号