买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：四川省公安科研中心;电子科技大学

摘要：本发明涉及边缘计算下的隐私保护领域，特别是涉及边缘计算下的一种边缘计算下的轻量级联邦学习隐私保护方法。目的在于解决联邦学习过程中隐私泄露的风险的方案，需消耗大量的时间和空间，不适用于边缘计算下实时性的应用场景的问题。主要方案包括采用不同的终端设备负责进行神经网络模型训练，而边缘服务器和云服务器进行神经网络模型参数聚合；在终端设备训练得到神经网络模型参数后，对其进行差分扰动，再上传给边缘服务器，边缘服务器迭代训练得到神经网络模型参数后，对神经网络模型参数进行同态加密后传输到云服务器进行聚合；在终端设备上、边缘服务器，设置一个阈值，当训练次数达到阈值时，神经网络模型参数上传到云服务器进行聚合更新。

主权项：1.一种边缘计算下的轻量级联邦学习隐私保护方法，其特征在于，包括：S1：建立云-边-端分层的联邦学习架构：采用不同的终端设备负责进行神经网络模型训练，而边缘服务器和云服务器进行神经网络模型参数聚合；S2：采用基于差分隐私和同态加密的两层隐私保护方案：在终端设备训练得到神经网络模型参数后，对其进行差分扰动，再上传给边缘服务器，边缘服务器迭代训练得到神经网络模型参数后，对神经网络模型参数进行同态加密后传输到云服务器进行聚合；S3：终端设备和边缘服务器端多次迭代更新的策略：在终端设备上设置训练轮数阈值，当更新次数达到阈值，将本地模型上传到边缘服务器，同时在边缘服务器设置另一个阈值，当训练次数达到阈值时，将神经网络模型参数上传到云服务器进行聚合更新；S2中，基于差分隐私的模型参数保护机制的详细描述如下；S211：终端设备拥有数据集，数据集包括数据和标签，将数据集按照7：3的比例划分为训练集和测试集，然后将训练集作为终端设备上的神经网络模型的输入进行模型训练，设终端设备上的神经网络模型的输出为Y，则： S212：在每一轮训练完成之后，将测试集输入到终端设备上的神经网络模型中，对比Y和标签计算损失值为：终端设备上的第t轮神经网络模型的梯度计算公式如下： 其中是通过损失值对模型参数进行求导；对神经网络模型梯度进行裁剪，裁剪公式如下： S213：设k次训练的终端设备上的神经网络模型参数为，数据集到神经网络模型参数的映射函数为h，第k次训练时划分的训练数据集为，终端设备上的神经网络模型参数与训练数据集的映射公式如下： S214：神经网络模型参数被攻击者窃取的概率为p，根据数据集与终端设备上的神经网络模型参数的映射关系，令隐私预算，对第k次训练的模型参数添加加性噪声，噪声添加如下： 其中为拉普拉斯分布，为查询敏感度，，将神经网络模型参数进行差分扰动后，上传给边缘服务器，是终端设备i用数据集在第t轮训练后得到的模型参数；是指终端设备i在用另一个数据集训练t轮后得到的模型参数；S2中，面向边云模型传输的同态加密机制的详细描述如下；S221：密钥管理中心KMC收到来自边缘服务器的请求之后，创建密钥对并分发给边缘服务器，密钥生成采用满足加法同态的Paillier算法，密钥生成与分配算法如下所示：输入边缘服务器集合EForjinE:a1.随机选取大素数p和q且满足p*q和（p-1）*（q-1）的最大公因数为1；a2.令p*q为n，p-1和（q-1）的最小公倍数为；a3.随机选取G且满足G的阶mod为n的倍数；a4.生成公私钥对，公钥为n,g，私钥为；a5.将公私钥对发送给边缘服务器j；S222：使用同态加密算法来加密上传的参数，模型更新公式如下所示： E是同态加密,是边缘服务器j在第t轮训练中迭代聚合k次后的参数，是终端设备i在第t轮训练中迭代k次训练后得到的模型参数，d是终端设备的总数量，e是边缘服务器的总数量；S223：关于模型参数具体的加密算法如下所示：输入：模型参数，是第t轮迭代完成后聚合得到的模型参数；使用random生成随机向量r计算密文计算解密;S3中，终端设备和边缘服务器端多次迭代更新的策略的详细描述如下：S31：得到第k次训练的模型梯度后，判断k是否小于k1,若k小于阈值k1,则在本地对模型参数进行更新，更新公式如下： 表示学习率，若k等于k1,则将模型参数发送给边缘服务器进行聚合：S32：在边缘服务器进行模型参数聚合与更新时，k1表示在每轮训练中，终端设备上迭代次数的阈值，k2表示在边缘服务器上迭代次数的阈值，在训练轮数t中，当迭代次数未到达k1*k2次时，边缘服务器对d个终端设备上传的模型参数进行聚合并进行同态加密得到；当迭代次数达到k1*k2次时，则将边缘服务器解密得到的模型参数更新，同时进行下一轮训练。

全文数据：

权利要求：

百度查询： 四川省公安科研中心 电子科技大学 一种边缘计算下的轻量级联邦学习隐私保护方法