申请/专利权人：山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院)

申请日：2023-12-26

公开（公告）日：2024-06-04

公开（公告）号：CN117454381B

主分类号：G06F21/56

分类号：G06F21/56;G06F18/214;G06F21/55

优先权：

专利状态码：有效-授权

法律状态：2024.06.04#授权;2024.02.13#实质审查的生效;2024.01.26#公开

摘要：本发明属于信息安全的技术领域，更具体地，涉及一种非独立同分布数据下面向联邦学习的渐进性攻击方法。所述方法服务器端随机初始化一个全局模型作为第一轮全局模型，下发到各个客户端，攻击者选用该全局模型作为攻击模型；所述客户端收到全局模型后在本地执行训练形成局部模型，并将局部模型上传到服务器端；所述服务器端将局部模型更新聚合，形成新一轮全局模型，继续下发至客户端；在每轮训练中，客户端使用接收到的全局模型更新其局部模型并在本地数据集上进行训练；结束训练。本发明解决了现有技术中攻击者为隐藏其攻击操作导致控制模型性能逐渐下降并导致数据非独立同分布联邦学习中的攻击检测变得更加困难的问题。

主权项：1.一种非独立同分布数据下面向联邦学习的渐进性攻击方法，其特征在于，包括；S1、服务器端在训练开始时，随机初始化一个全局模型作为第一轮全局模型，下发到各个客户端，攻击者选用该全局模型作为攻击模型；S2、所述客户端包括攻击者和良性客户端；所述攻击者和良性客户端收到全局模型后分别在本地执行训练形成各自的局部模型更新，并将形成各自的局部模型更新上传到服务器端；所述服务器端将接收到的客户端的局部模型更新聚合，形成新一轮全局模型，继续下发至客户端；在每轮训练中，客户端使用接收到的全局模型更新其局部模型并在本地数据集上进行训练；S3、根据设定的总共训练轮次，得到最终全局模型以及攻击者的目标函数，攻击者设计攻击方法来探测、发现和利用联邦学习中的漏洞和弱点，有助于改进现有的安全防御方法，使联邦学习更加具有鲁棒性，免受攻击威胁；所述S2具体包括：S21、攻击者局部模型的训练过程；以训练轮次为前面轮次设计动态权重p，前面轮次指总共训练轮次之前，全局模型进入收敛状态时的轮次; ；公式（1）中，t指的是当前训练轮次，T是总共训练轮次；攻击者收到攻击模型后，使用随机梯度下降并用被攻击的客户端的局部数据（x，y）更新局部模型，期望绕过防御机制检测的同时实现局部攻击最大化： ；公式（2）中，表示对数据分布中的所有样本取期望，是指第i个客户端的本地数据集，表示从数据集中采样得到的样本，其中x是输入，y是相应的标签；是第t轮从服务器端接收到的全局模型使用客户端本地训练集得到的全局损失函数，是使用攻击模型根据本地训练集计算出的攻击损失函数，是攻击者第t轮上传到服务器端的局部模型，是第t轮攻击者接收到的全局模型；接着，得出攻击者在第t轮计算的局部损失以及局部模型更新： ； ；公式（3）-（4）中，指的是学习率；S22、良性客户端局部模型的训练过程：每个良性客户端接收到服务器端下发的全局模型后，使用自己的本地数据集计算良性局部损失，良性局部损失包括本地模型损失和正则化项损失： ；公式（5）中，是良性客户端在第t轮计算的局部损失，是第t轮根据本地数据集训练的本地模型损失，是该良性客户端的本地模型，是一个调整不同损失项之间平衡的超参数，是个性化联邦学习方法添加的正则化项损失；计算良性客户端第t轮上传到服务器端的局部模型更新： ；S23、服务器端将接收到的客户端的局部模型更新聚合得到全局模型，具体包括：所述服务器端接收到各客户端上传的局部模型更新后，使用FedAvg方法进行平均聚合： ；公式（7）中，k指的是每轮训练中服务器端随机选择的客户端子集，所述客户端子集同时包括良性客户端和攻击者，或只包括良性客户端；c是服务器端选择在本轮参与训练的客户端数量，服务器端计算平均值当作第t+1轮全局模型更新，继续下发给下一轮随机选择的客户端子集重复此过程，直到全局模型收敛或达到训练设置的轮数得到最终的全局模型；所述S3具体包括：攻击者的目标函数表达式如下： ；公式（8）中，是未被攻击时全部使用良性客户在第t轮训练的全局模型，是攻击后第t轮训练的全局模型，代表范数，攻击者通过动态权重控制攻击强度。

全文数据：

权利要求：

百度查询： 山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院) 一种非独立同分布数据下面向联邦学习的渐进性攻击方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD