恭喜浙江工业大学宣琦获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浙江工业大学申请的专利一种基于多模型对抗蒸馏的鲁棒性图像分类方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114842257B 。
龙图腾网通过国家知识产权局官网在2025-05-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210488306.0,技术领域涉及:G06V10/764;该发明授权一种基于多模型对抗蒸馏的鲁棒性图像分类方法是由宣琦;王张伟;陈壮志;徐东伟;凌书扬设计研发完成,并于2022-05-06向国家知识产权局提交的专利申请。
本一种基于多模型对抗蒸馏的鲁棒性图像分类方法在说明书摘要公布了:本发明提供一种基于多模型对抗蒸馏的鲁棒性图像分类方法,包括以下步骤:S1:获取数据集,对复杂模型预训练得到模型T2;S2:根据训练数据集,通过对抗样本生成方法生成对应对抗样本数据;S3:将对抗样本输入复杂模型进行对抗训练,得到模型T2;S4:选择与复杂模型任务相同的轻量化模型作为学生模型S,通过多模型的知识蒸馏框架对学生模型进行蒸馏训练。本发明通过对抗训练和知识蒸馏的方法,实现了一种基于多模型对抗蒸馏的鲁棒性图像分类方法,实现了通过知识蒸馏使学生充分学习不同教师模型的特性,在提高对抗鲁棒性时兼顾精度。
本发明授权一种基于多模型对抗蒸馏的鲁棒性图像分类方法在权利要求书中公布了:1.一种基于多模型对抗蒸馏的鲁棒性图像分类方法,其特征在于:所述提取方法包括以下步骤:S1:预训练复杂模型;在给定训练数据集X下正常训练复杂模型,得到模型T1;复杂模型应根据先验知识选择分类能力优秀的复杂模型;S2:产生对抗训练样本;在给定数据集X下,根据损失函数的梯度通过多次迭代对每个样本添加扰动,得到对抗训练样本对抗样本根据公式1生成; 其中xt为原始样本;α为扰动系数,确定每次迭代中的步长;sign·为符号函数,指定图像像素改变方向;Jx,y为模型的损失函数;是损失函数关于图像像素值的梯度;S3:对抗训练复杂模型;使用步骤S2中产生的扰动样本和正确标签作为对抗训练数据;选取一个复杂的模型框架,直接采取对抗训练,生成教师模型T2;步骤S3中,对抗训练过程中每一次新的迭代都根据公式1重新生成一批新的扰动样本作为这一轮对抗训练的训练样本;S4:使用多个教师模型进行知识蒸馏获得轻量化学生模型;步骤S4具体包括:S4.1:选择轻量化模型结构作为学生模型S;S4.2:将训练样本x,x∈X,输入学生模型S和教师模型T1中,分别得到两个模型的Logit输出;其中真实标签作为学生模型训练硬标签,教师模型的输出作为学生模型软标签;根据公式2计算得到lossT1,其中lamba为衡量损失函数重要性的权重,并根据交叉熵损失计算得到lossnat;lossT=outs-outT2*lamba2S4.3:在知识蒸馏过程中利用公式1根据学生模型S生成对抗样本与步骤S4.2操作相同,将对抗数据集输入教师模型T2和学生模型S得到lossT2和lossadv;S4.4:根据公式3计算总损失值;LOSS=lossnat+lossadv+lossT1+lossT23所述步骤S4.2中,使用者根据所需生成模型的功能来确定lamba权值的具体大小,使用者可通过权值分配的不同来生成强对抗鲁棒性模型或是高分类精度模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江工业大学,其通讯地址为:310014 浙江省杭州市拱墅区潮王路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。