买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：燕山大学

摘要：本发明提供了一种基于信念攻击和显著区域扰动限制的对抗样本生成方法，涉及深度神经网络技术领域和计算机视觉领域，本发明包含以下步骤：提供原始图像和白盒目标模型，使用包含原始图像的数据集作为数据集，利用类激活映射技术生成关于原始图像的显著区域二进制掩码，利用基于信念的攻击方法融合迭代的快速梯度方法生成全局对抗扰动；将生成的全局对抗扰动和显著区域二进制掩码融合生成显著区域对抗扰动；将显著区域对抗扰动添加到输入图像，并迭代地进行更新直到达到预设的终止条件，输出最后的一次迭代的图像对抗样本作为生成的对抗样本。该发明生成的对抗样本具备低扰动、高迁移性。

主权项：1.基于信念攻击和显著区域扰动限制的对抗样本生成方法，其特征在于，包括如下步骤：步骤S1：提供原始图像，将其中原始图像作为DNN模型的训练数据；步骤S2：提供白盒目标模型，使用包含原始图像的数据集作为训练数据集，利用类激活映射技术生成关于原始图像的显著区域二进制掩码,利用基于信念的攻击方法融合I-FGSM对抗样本生成方法生成全局对抗扰动；步骤S3：将生成的全局对抗扰动和显著区域二进制掩码进行哈达玛积运算，生成显著区域对抗扰动；步骤S4：将显著区域对抗扰动添加到输入图像，步骤S5：重复步骤S2-S4迭代生成图像对抗样本，并裁剪溢出的像素值，直到达到预设终止条件，最后一次迭代生成的对抗样本作为输出的对抗样本；在所述步骤2中，所述基于信念的攻击方法思想包括：利用观测梯度计算其指数移动平均，利用如下公式计算观测梯度： 其中，J为分类器的损失函数，||·||1为L1范数；基于观测梯度计算观测梯度和观测梯度平方的EMA，利用如下公式计算：mt＝β1mt-1+1-β1gtst＝β2st-1+1-β2gt-mt2其中，mt为第t次迭代观测梯度gt的EMA，st为观测梯度平方的EMA，β1＝0.99和β2＝0.999为平滑参数；基于观测梯度和观测梯度平方的EMA，利用如下公式计算对抗扰动： 其中，δ＝1e-8；将对抗扰动进行包括偏差矫正和正则化以及缩放操作获得全局对抗扰动，通过如下公式进行计算： 其中，a为初始步长，ε为扰动量，N为输入图像像素数，T为总迭代次数，λt为偏差矫正，为第t次迭代的全局对抗扰动，η为扰动控制因子；扰动量ε＝16，表示生成的对抗扰动范围为[-16,16]。

全文数据：

权利要求：

百度查询： 燕山大学 基于信念攻击和显著区域扰动限制的对抗样本生成方法