龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：北京理工大学
申请日：2024-01-29
公开（公告）日：2024-06-14
公开（公告）号：CN118196470A
主分类号：G06V10/764
分类号：G06V10/764;G06V10/82;G06N3/0475;G06N3/094;G06N3/084
优先权：
专利状态码：在审-公开
法律状态：2024.06.14#公开
摘要：本发明提出的一种基于梯度的模型防御手段检测方法，属于人工智能对抗攻防、深度学习模型技术领域。包括：将原始样本作为初始检测样本，在第t轮迭代中，将当前检测样本进行图像处理防御生成防御样本；在图像处理防御结束后，分别计算检测样本与防御样本的梯度方向，并将检测样本的梯度取反；求检测样本的梯度与防御样本的梯度的矢量和，沿着梯度的方向移动当前检测样本，迭代结束后输出检测样本；将基于一种对抗防御算法生成的检测样本送入生成该检测样本的模型预测；如果检测样本被分类错误则认为该模型使用了上述对抗防御算法。本方法能够快速且准确地进行防御算法检测。
主权项：1.一种基于梯度的模型防御手段检测方法，其特征在于，具体包括以下步骤：前设条件：x表示一张干净的图片，表示图像处理防御算法，表示图像处理防御算法对图片x执行防御处理之后的防御样本，表示一张检测样本，y∈Rm是x的真实标签；S1：将原始样本作为初始检测样本在第t轮迭代中，将当前检测样本进行图像处理防御生成防御样本S2：在图像处理防御结束后，分别计算检测样本与防御样本的梯度方向，并将检测样本的梯度取反；S3：求检测样本的梯度与防御样本的梯度的矢量和，沿着梯度的方向移动当前检测样本，迭代结束后输出检测样本；S4：将基于一种对抗防御算法生成的检测样本送入生成该检测样本的模型预测；S5：如果检测样本被分类错误则认为该模型使用了步骤S4所述对抗防御算法。
全文数据：
权利要求：
百度查询： 北京理工大学 一种基于梯度的模型防御手段检测方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号