首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于联邦学习模型的帕金森疾病智能评估方法与系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:南昌大学

摘要:本发明涉及数据处理技术领域,特别涉及一种基于联邦学习模型的帕金森疾病智能评估方法与系统,从三个角度测量客户端贡献,并受启发于经典博弈合作中的贡献计算方式ShapleyValue,大大简化了客户端贡献估计的复杂度,在保护隐私的同时,激励多个医疗机构协同训练帕金森疾病诊断模型。本发明一种基于联邦学习模型的帕金森疾病智能评估方法与系统,从梯度下降速率、梯度多样性、数据多样性三个维度估计各个医疗机构的贡献,并在中心服务器聚合模型时,使用此贡献对各个客户端模型加权得到中心模型,实现公平,增加了医疗机构参与训练的意愿,激励各个医疗机构进行联合学习,得到一个更好的帕金森疾病分类模型。

主权项:1.一种基于联邦学习模型的帕金森疾病智能评估方法,其特征在于,包括以下步骤:S1、贡献评估方式:将每个参与方的夏普利值视为该参与方的贡献: 其中D表示数据分布,N表示参与的客户端数,使表示所有子集长度为N的数据分布集合,S表示客户端集合,若S集合元素有M个,则其所有可能的情况对应的数据分布表示为DM,即S~DM,|S|=M;U表示效用函数,用以计算集合S的贡献值;通过分析夏普利值的定义,其计算贡献的核心方式是计算某个客户端i对某个集合的边际效益,也就是确定一个客户端是否会对现存的客户端集合做出贡献;因此我们使用一个近似估计直接测量某个客户端的贡献: 其中Γi是我们提出的同时从梯度多样性、梯度下降速率和数据多样性三个维度测量客户端价值的效用函数,N\{i}表示从全体N个客户端中去掉客户端i;中心服务器下发全局模型:在进行联邦学习时,首先需要对全局模型进行初始化,通常情况下,将全局模型表示为w0,并确定通信轮次为K;联邦学习的核心在于客户端设备的参与;为了确保对所有客户端的贡献进行准确评估,规定:在每次下发全模型时,所有客户端都必须参与更新;这意味着每个客户端都有机会贡献其本地数据的信息,进而可以准确评估每个客户端的贡献,促进全局模型的收敛和优化;这一规定确保了每个客户端都能够对最终的全局模型产生影响,而不会因为随机抽取而被忽视: S2、本地训练:各个客户端的本地模型结构需要保持一致,本地模型可以根据任务进行选择;为了实现高效的帕金森疾病检测,选择Swin_Transformer_Base模型,该模型的架构包括了PatchEmbedding层、四个Stage层以及最终的输出层;帕金森疾病检测是一个分类任务,采用交叉熵损失函数作为训练过程中的优化目标;S3、客户端贡献参数计算:在模型训练阶段,通过三个维度估计客户端的贡献,分别是梯度多样性、梯度下降速率和数据多样性;在梯度空间中,计算一个客户端和所有其他客户端之间的梯度方向差;捕获联邦学习中的数据多样性和异质性对于训练一个稳健且可推广的全局模型非常重要,因此为呈现不同梯度方向的客户端分配了更多的权重;对于在第k轮中客户端i的梯度多样性贡献计算如下: 其中表示客户端本地训练后的累计梯度,表示在聚合所有客户端梯度时排除客户端i梯度的梯度聚合值:在梯度空间中,通过分析各个客户端的梯度下降速度,可以实现更精准的权重分配,这有助于提高整体模型的性能和效率;在权重分配时,对数据质量高的客户端给予更高的权重,以提升整体模型的性能: 在数据空间中,使用辅助模型来测量客户端数据的准确率,该辅助模型模型是通过全局模型排除客户端自身的参数来计算的;对于在第k轮中客户端i的数据贡献计算如公式6: 其中表示在聚合所有客户端模型参数时排除客户端i的聚合值;S4、中心服务器聚合模型:在经过一轮本地客户端训练后,中心服务器收到各个客户端的本地模型和相应的贡献估计,首先对三个贡献进行归一化处理,以梯度贡献为例,如公式7所示,其他同理: 使各个贡献标准化后,确保了每类贡献值总和为1,然后结合三种贡献得到每个客户端的贡献值,这里可以选择将三类贡献相乘或相加,进而得到客户端的贡献,如公式8所示: 利用得到的各个客户端的贡献值计算相应的聚合权重,以基于乘法的组合为例,在第k轮中,计算聚合权重如公式9,其中 最后使用得到的聚合权重,对各个客户端上传的本地模型进行加权聚合,得到新的全局模型,然后回到步骤1,不断循环这过程:

全文数据:

权利要求:

百度查询: 南昌大学 一种基于联邦学习模型的帕金森疾病智能评估方法与系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术