首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种面向模态不完整场景的多模态联邦学习方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中南大学

摘要:本发明公开了一种面向模态不完整场景的多模态联邦学习及系统,具体包括:具有一致模态的客户端被分组成一个集群,并根据集群类别分发相应的模型;客户端训练本地模型并执行原型对比学习,将本地原型集及本地模型传输到中央服务器;在中央服务器上,执行集群分步聚合,以推导出多模态全局模型、单模态全局模型;在中央服务器上,执行全局原型聚合,以推导出全局原型集;中央服务器将多模态全局模型、单模态全局模型和全局原型集分发到各个本地客户端,迭代循环直至模型收敛。通过本公开的方案,有效解决了在不完整模态场景下异构客户端之间的知识共享和协作学习问题,提高了模型训练的效果。

主权项:1.一种面向模态不完整场景的多模态联邦学习方法,应用于服务器,其特征在于:包括以下步骤:S1:将具有一致模态的客户端划分到一个集群,并根据集群类别为各个客户端分发相应多模态集群模型、单模态集群模型,所述客户端包括多模态客户端、单模态客户端;S2:接收每个客户端传送各个模态的本地原型集以及本地模型信息,所述本地模型信息和所述本地原型集由客户端进行本地训练计算得到;S3:执行集群分步聚合策略推导出多模态全局模型、单模态全局模型;以及利用各个客户端传送的本地原型集,按模态类型执行全局原型聚合得到每类模态对应的全局原型集;其中,所述集群分步聚合策略分为两个阶段,第一阶段在每个集群内进行模型聚合更新,第二阶段进行集群之间的解耦聚合,即解开模型的特征编码器和分类器,并聚合相同模态的特征编码器;S4:将多模态全局模型、单模态全局模型和各类模态对应的全局原型集分发到对应的多模态客户端、单模态客户端,分发的所述多模态全局模型、单模态全局模型用以替代多模态客户端、单模态客户端的当前模型,分发的所述全局原型集用于参与客户端更新所述本地原型集;迭代循环S2-S4直至满足迭代终止条件,各个多模态客户端、单模态客户端得到最终模型。

全文数据:

权利要求:

百度查询: 中南大学 一种面向模态不完整场景的多模态联邦学习方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。