龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：山东浪潮科学研究院有限公司
摘要：本发明涉及多模态模型领域，具体提供了一种动态生成多模态混合专家模型的方法及装置，包括如下：S1.1、对数据进行预处理；S1.2、向量化模块将输入的数据转换为向量；S1.3、经过多层Transformer进行特征提取；S1.4、计算每个模块池中各模块的选择概率；S1.5、动态专家模块根据计算出的概率，将它们按顺序组装成一个专家；S1.6、输出模块通过解码器生成输出；S2.1、预训练阶段；S2.2、模块池初始化阶段；S2.3、全参数训练阶段。与现有技术相比，本发明能够通过动态专家生成、共享层池和动态路由等创新技术，该方法能够有效地处理复杂的多模态数据，同时保持了对单模态任务的良好适应性。
主权项：1.一种动态生成多模态混合专家模型的方法，其特征在于，包括如下：（1）模型的构建；S1.1、多模态输入模块进行接收多模态输入数据，对数据进行预处理；S1.2、向量化模块将输入的数据转换为向量；S1.3、特征提取模块将拼接后的向量经过多层Transformer进行特征提取；S1.4、动态路由模块计算每个模块池中各模块的选择概率；S1.5、动态专家模块根据计算出的概率，从每个模块池中选择概率最高的模块，将它们按顺序组装成一个专家；S1.6、输出模块通过解码器生成输出；（2）模型的训练；S2.1、预训练阶段；S2.2、模块池初始化阶段；S2.3、全参数训练阶段。
全文数据：
权利要求：
百度查询： 山东浪潮科学研究院有限公司 一种动态生成多模态混合专家模型的方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号