首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

多模态模型的部署系统、方法、电子设备及可读存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:暗物质(北京)智能科技有限公司;暗物智能科技(广州)有限公司

摘要:本申请提供了多模态模型的部署系统、方法、电子设备及可读存储介质,当接收到模型部署需求时,模型管理模块从预先存储的多个模型子结构中,确定出与模型部署需求对应的至少一个目标模型种类子结构,同时将至少一个目标模型种类子结构以及存储的目标有向无环图发送至多模块结构组合模块;多模块结构组合模块在接收到至少一个目标模型种类子结构后,对至少一个目标模型种类子结构进行组合,生成目标多模态模型结构,进而将目标多模态模型结构发送至模型部署模块,模型部署模块根据底层基础配置信息以及目标多模态模型结构,部署得到目标多模态模型。这样,可以提升多模态模型的部署的灵活性以及部署效率。

主权项:1.一种多模态模型的部署系统,其特征在于,所述部署系统用于语音识别;所述部署系统包括模型管理模块、多模块结构组合模块以及模型部署模块;所述模型管理模块,用于根据模型部署需求,从预先存储的多个模型子结构中,确定需要部署的至少一个目标模型种类子结构;并将所述至少一个目标模型种类子结构以及目标有向无环图发送至所述多模块结构组合模块;所述目标有向无环图记录模型种类子结构的上下游关系;所述多模块结构组合模块,用于将所述至少一个目标模型种类子结构按照所述目标有向无环图中的模型种类子结构的上下游关系,或者预设的模型结构,进行组合得到目标多模态模型结构;并将所述目标多模态模型结构发送至所述模型部署模块;所述模型部署模块,用于基于底层基础配置信息以及所述目标多模态模型结构,部署得到目标多模态模型;所述模型管理模块还用于:确定待注册模型结构所属的类别种类,并将所述待注册模型结构存储至对应的类别种类对应的数据库表中,得到预先存储的多个模型子结构;所述类别种类包括编码器种类、转接器种类、大模型种类以及解码器种类;所述模型管理模块用于通过以下步骤构建所述目标有向无环图:确定预先存储的每个模型子结构所属的种类类别以及每个模型子结构对应的输入输出维度;若所述模型子结构属于所述转接器种类或者大模型种类,根据所述模型子结构的输入输出维度,确定与所述模型子结构的输入输出维度均一致的目标模型类别名称,并将所述目标模型类别名称对应的模型类别与所述模型子结构,按照预设的子结构上下游关系关联,得到所述目标有向无环图;若所述模型子结构属于所述编码器种类,根据所述模型子结构的输出维度,确定与所述模型子结构的输出维度均的目标模型类别名称,并将所述目标模型类别名称对应的模型类别与所述模型子结构,按照预设的子结构上下游关系关联,得到所述目标有向无环图;若所述模型子结构属于所述解码器种类,根据所述模型子结构的输入维度,确定与所述模型子结构的输入维度均的目标模型类别名称,并将所述目标模型类别名称对应的模型类别与所述模型子结构,按照预设的子结构上下游关系关联,得到所述目标有向无环图;其中,所述预设的子结构上下游关系为所述编码器种类在所述目标有向无环图中为所述转接器种类的上游、所述转接器种类在所述目标有向无环图中为所述大模型种类的上游、所述大模型种类在所述目标有向无环图中为所述解码器种类的上游;所述编码器种类的输出为所述转接器种类的输入;所述转接器种类的输出为所述大模型种类的输入;所述大模型种类的输出为所述解码器种类的输入。

全文数据:

权利要求:

百度查询: 暗物质(北京)智能科技有限公司 暗物智能科技(广州)有限公司 多模态模型的部署系统、方法、电子设备及可读存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。