申请/专利权人：北京理工大学;中科信息安全共性技术国家工程研究中心有限公司

申请日：2024-03-05

公开（公告）日：2024-05-14

公开（公告）号：CN118041658A

主分类号：H04L9/40

分类号：H04L9/40;G06N20/20

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.05.31#实质审查的生效;2024.05.14#公开

摘要：一种面向联邦遗忘学习的客户端投毒攻击检测方法利用多种数学方法从而实现了对恶意客户端的快速精准检测，客户端投毒攻击检测的核心思想是比较客户端模型与历史模型间的余弦相似度。量化全局模型性能的变化情况并记录，在每个全局迭代轮次，首先对客户端上传的模型参数进行聚合，如果全局模型性能发生明显恶化，则计算各个客户端的模型与上一轮本地模型的余弦相似度，结果明显偏低的则为恶意客户端。恶意客户端的序号则可用于联邦遗忘以对被检出的恶意客户端进行遗忘。有益效果在于：使用本方案后，可以在数据集不可见的情况下检测出恶意客户端，且检测准确率高、不依赖历史存储更新，结果可用于进一步的联邦遗忘过程。

主权项：1.一种面向联邦遗忘学习的客户端投毒攻击检测方法包括如下步骤：步骤1：历史信息计算存储在服务器端根据历史全局模型的性能来构建一个攻击判别器以检测潜在的攻击；将定义为联邦学习的第一轮，在每次对客户端上传的模型梯度更新进行聚合后得到新的全局模型，服务器首先评估当前全局模型的预测准确率，并从轮次结束开始，计算当前全局模型的预测准确率与前一轮预测准确率的差值，若当轮未检测到攻击，则将存储到集合D中，并存储当前全局模型的预测准确率，并将当前轮次所有客户端上传的模型梯度更新存储到数组中，数组中元素的具体形式为，其中n代表参与联邦学习的客户端共有n个；步骤2：攻击检测服务器聚合客户端更新并得到新的全局模型后计算当前全局模型的预测准确率，并计算集合D的元素绝对值的平均数，记为，；服务器进一步比较当前全局模型预测准确率与的大小，如果的绝对值小于且为负数，则判定全局模型受到了恶意的投毒攻击，反之则认为这轮的联邦学习进程已正常结束，执行步骤1的存储操作，并将全局模型更新为聚合后的模型；步骤3：恶意客户端查找服务器判定联邦学习进程受到攻击后，执行恶意客户端查找操作，使用的方法为余弦相似度计算法；将当前轮次客户端上传的模型更新记为，；计算上一轮次所有客户端的模型更新与这一轮次的模型更新之间的余弦相似度得到每个客户端对应的结果，其中，，，数值最小的的下标即为恶意客户端的序号u，；步骤4：根据得到的恶意客户端的序号执行联邦遗忘学习，联邦遗忘学习方法可将序号为u的客户端对全局模型造成的影响删除；步骤5：联邦遗忘学习结束后，可对得到的遗忘模型进行评估，得到的遗忘模型可用于下一轮次的联邦学习，即作为全局模型供各个客户端下载；重复上述步骤直到达到联邦学习的终止条。

全文数据：

权利要求：

百度查询： 北京理工大学;中科信息安全共性技术国家工程研究中心有限公司 一种面向联邦遗忘学习的客户端投毒攻击检测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD