首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于特征对抗的无数据联邦双向知识蒸馏方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:江南大学;江苏数伽科技有限公司

摘要:本发明提供一种基于特征对抗的无数据联邦双向知识蒸馏方法及系统,涉及机器学习中的联邦学习技术领域,该方法包括构建联邦学习框架,通过联合多个客户端与服务器,利用全局生成器生成伪数据增强训练,结合局部特征鉴别器与全局生成器的对抗训练,促进全局模型与局部模型的双向知识蒸馏。在迭代过程中,全局模型不断集成局部知识,同时局部模型也获得全局视角的分类能力,最终实现全局模型的高性能与稳定性,本发明适用于数据分布不均场景。

主权项:1.一种基于特征对抗的无数据联邦双向知识蒸馏方法,其特征在于,包括:步骤S1:构建联邦学习框架,包括多个客户端和一个服务器,通过联合多个客户端和一个服务器参与联邦学习共同训练一个全局模型;服务器初始化一个全局模型和全局生成器,并将全局模型划分成全局特征提取器和全局分类器;各客户端初始化一个局部特征鉴别器;步骤S2:局部阶段,各客户端从服务器上下载全局模型和全局生成器;各客户端将全局模型作为初始局部模型,将全局生成器生成的生成数据和本地的真实数据作为训练数据,全局模型在生成数据上的输出作为教师监督充当局部模型训练的正则项,训练局部模型;各客户端将局部特征提取器在真实数据上的特征作为正样本,全局特征提取器在生成数据上的特征作为负样本,训练局部特征鉴别器;完成训练后,各客户端将训练后的局部模型和训练后的局部特征鉴别器发送给服务器;步骤S3:全局阶段,服务器接收各客户端发送的训练后的局部模型和训练后的局部特征鉴别器;服务器聚合训练后的局部模型作为初始全局模型;服务器训练全局生成器使得生成样本能够欺骗多个局部特征鉴别器;服务器使用训练得到的全局生成器生成新的生成数据,将新的生成数据当做训练数据,多个局部模型在生成数据上的输出作为教师监督,微调全局模型;步骤S4:返回执行步骤S2直到全局模型收敛,得到最终的全局模型。

全文数据:

权利要求:

百度查询: 江南大学 江苏数伽科技有限公司 基于特征对抗的无数据联邦双向知识蒸馏方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。