买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:南通大学
摘要:本发明提供了一种保护隐私的量化联邦学习方法,属于智能物联网中的联邦学习、量化和隐私保护技术领域,解决了联邦学习过程中存在的通信开销大和隐私泄露的技术问题。其技术方案包括以下步骤:S10、系统初始化;S20、本地模型参数的量化编码;S30、量化更新向量的隐私保护;S40、服务器布尔共享的生成;S50、布尔共享到算术共享的转换;S60、算术共享矩阵的聚合;S70、本地模型更新。本发明的有益效果为:该方法不仅减少了联邦学习中参与者的通信开销,还保护了参与者模型更新向量的隐私。
主权项:1.一种保护隐私的量化联邦学习方法,包括系统管理员、参与者和服务器三种类型的实体,其特征在于,包括以下步骤:S10、系统初始化阶段,系统管理员SM构建平台,设置系统的量化级别,生成系统的公开参数,发布联邦学习的任务列表;两个服务器S1和S2利用系统公开参数分别为自己生成相应的一对公私钥;每个参与者生成相应的一对公私钥,申请参与某项具体的联邦学习任务,SM根据参与者的传输能力为每个参与者分配相应的量化级别;S20、本地模型参数的量化编码阶段,每个参与者根据自己选择的模型训练任务中当前轮次的模型参数,利用本地数据集,计算本地模型的更新向量,根据这个更新向量计算其二阶范数和符号值,得到一个二阶范数和一个符号向量,根据自己的量化级别对这个模型更新向量进行量化,得到相应的量化更新向量;每个参与者将自己本地模型更新向量对应的二阶范数、符号向量和量化更新向量组成一个三元组;S30、量化更新向量的隐私保护阶段,每个参与者利用服务器S1和S2的公钥和自己的私钥,计算出两个相应的会话密钥,将这两个会话密钥输入到伪随机数生成器,得到两个随机二进制数,利用这两个随机二进制数,对量化更新向量进行异或运算,得到盲化更新向量,然后将二阶范数、符号向量和盲化更新向量组成一个三元组,并将这个三元组发送给服务器S1;S40、服务器S1和S2的布尔共享生成阶段,服务器S1对每个参与者的三元组进行验证,若通过验证,将这个参与者的二阶范数和符号向量发送给服务器S2,否则丢弃这个参与者的三元组;服务器S1利用自己的私钥和每个通过验证的参与者公钥,计算会话密钥,将这个会话私钥输入到伪随机生成器中,输出一个随机二进制数,随机二进制数与盲化更新向量异或得到与这个参与者的一个布尔共享向量;服务器S2利用自己的私钥和每个通过验证的参与者公钥,计算会话密钥,将这个会话私钥输入到伪随机生成器中,输出一个随机二进制数,得到与这个参与者的一个布尔共享数;S50、布尔共享到算术共享的转换,服务器S1和S2分别根据每个参与者的布尔共享数,利用不经意传输协议,分别计算出指定数量的双重验证位;S1和S2使用双重验证位将各自的布尔共享二进制数转换成相应的算术共享值,将每个参与者的算术共享值组成一个矩阵,得到这个训练模型中所有参与者的一个算术共享矩阵;S60、算术共享矩阵的聚合,服务器S1和S2将每个参与者符号向量组成一个符号矩阵,利用算术共享矩阵、符号矩阵、每个参与者的二阶范数和量化级别,计算出各自的聚合向量;服务器S2将自己的聚合向量发送给服务器S1;服务器S1利用S2的聚合向量,计算出总的聚合向量,并更新全局模型;S70、本地模型更新阶段,参与者重复执行步骤S20至步骤S60,直到训练轮数达到指定次数时,系统管理员和所有参与者得到最终模型参数。
全文数据:
权利要求:
百度查询: 南通大学 一种保护隐私的量化联邦学习方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。