买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:复旦大学
摘要:本发明提供了一种针对模型抽取攻击的反向渗透防御装置,具有这样的特征,包括数据存储模块;蜜罐设置模块用于将指定模型的分类层替换为蜜罐层得到蜜罐模型;影模型训练模块用于根据影数据样本对蜜罐模型进行模型抽取攻击训练影模型;验证样本生成模块用于将触发器分别与各个初始样本结合得到多个验证样本;触发器更新模块用于根据训练好的影模型和验证样本更新触发器;蜜罐层微调模块用于根据影数据样本和更新好的触发器对应的验证样本微调蜜罐模型;迭代控制模块用于判断蜜罐模型是否达到预设终止条件,若是则得到蜜罐模型,若否则控制影模型训练模块运行。总之,本方法能够在不引入额外风险的同时,有效识别并制止模型抽取攻击的侵权行为。
主权项:1.一种针对模型抽取攻击的反向渗透防御装置,用于得到指定模型的蜜罐模型,所述指定模型根据输入的图像得到对应的分类结果,其特征在于,包括:数据存储模块,用于存储影模型、触发器、多个影数据样本、多个初始样本,所述影数据样本和所述初始样本均为适用于所述指定模型对应任务的图片;蜜罐设置模块,存储有初始化的蜜罐层,用于将所述指定模型的分类层替换为所述蜜罐层,得到蜜罐模型;影模型训练模块,用于根据所述影数据样本对所述蜜罐模型进行模型抽取攻击,训练所述影模型;验证样本生成模块,用于将所述触发器分别与各个所述初始样本结合,得到多个验证样本;触发器更新模块,用于根据训练好的影模型和所述验证样本,更新所述触发器;蜜罐层微调模块,用于根据所述影数据样本和更新好的触发器对应的验证样本,微调所述蜜罐模型;迭代控制模块,用于判断微调好的蜜罐模型是否达到预设终止条件,若是,则得到所述蜜罐模型,若否,则控制所述影模型训练模块运行,其中,所述预设终止条件为所述微调好的蜜罐模型对所述图片的分类结果与所述指定模型对该图片的分类结果相同,且所述微调好的蜜罐模型对所述验证样本的识别结果与预设结果相同。
全文数据:
权利要求:
百度查询: 复旦大学 针对模型抽取攻击的反向渗透防御装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。