恭喜浙江工业大学陈晋音获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浙江工业大学申请的专利面向深度模型供应链的多方协作的漏洞判定方法与装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115292719B 。
龙图腾网通过国家知识产权局官网在2025-06-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210985341.3,技术领域涉及:G06F21/57;该发明授权面向深度模型供应链的多方协作的漏洞判定方法与装置是由陈晋音;陈若曦;金海波;郑海斌设计研发完成,并于2022-08-17向国家知识产权局提交的专利申请。
本面向深度模型供应链的多方协作的漏洞判定方法与装置在说明书摘要公布了:本发明公开一种面向深度模型供应链的多方协作的漏洞判定方法与装置,首先获取上游任务数据集,并对神经网络进行训练;对上游任务数据集进行中毒操作,得到中毒样本;并训练得到中毒模型,将中毒模型的输出作为中毒特征;利用中毒特征作为约束条件,训练上游预训练模型,若上游预训练模型的输出带有中毒特征,且没有被在线模型市场中的检测器检测到,则判定在线模型市场中的检测器存在漏洞;下游任务供应商下载预训练模型,并检查下游数据集,若下游任务供应商判定下游数据集不存在漏洞,则对预训练模型进行微调,将带有触发器的测试样本输入到预训练模型中,若其输出为误标记的类;则判定下游任务供应商先对下游数据集进行检查过程存在漏洞。
本发明授权面向深度模型供应链的多方协作的漏洞判定方法与装置在权利要求书中公布了:1.一种面向深度模型供应链的多方协作的漏洞判定方法,其特征在于,所述方法具体包括以下步骤:1获取图像数据集作为上游任务数据集,并对其进行归一化处理;2使用步骤1中选取的上游任务数据集对神经网络进行训练;3对步骤1中选取的上游任务数据集进行中毒操作,得到中毒样本;并通过该中毒样本训练步骤2得到的深度学习网络得到中毒模型;其中,所述步骤3具体包括以下子步骤:3.1利用BadNets法对步骤1预处理后的上游任务数据集进行中毒操作,得到中毒数据集,具体地:随机选取一部分上游任务数据集,将其类标改为中毒类标0,在对应图像加上触发器图样;3.2利用步骤2.1得到中毒数据集训练步骤2得到的神经网络得到中毒模型,其损失函数定义为:LBD=Lmodel+CEyt,xt其中,Lmodel表示步骤2中训练的神经网络的损失函数,yt和xt为中毒数据集中的中毒类标和触发样本;训练结束后保存模型和训练参数;3.3训练完成后将带有触发器的中毒样本输入至中毒模型,以测试中毒成功率,并计算中毒触发率,若中毒触发率达到自定义的阈值,则完成测试,否则更改触发器样本或修改模型参数重新训练中毒模型直至中毒触发率达到自定义的阈值;4提取中毒模型的输出作为中毒特征;5利用步骤4定义的中毒特征作为约束条件,训练上游预训练模型,并进行漏洞判定;若训练后的上游预训练模型的输出带有中毒特征,且没有被在线模型市场中的检测器检测到,则判定在线模型市场中的检测器存在漏洞;6下游任务供应商下载预训练模型,并对下游数据集进行检查,若下游任务供应商判定下游数据集不存在漏洞,则对预训练模型进行微调,并进行漏洞判定;将带有触发器的测试样本输入到训练好的预训练模型中,若预训练模型的输出均为误标记的类;则判定下游任务供应商先对下游数据集进行检查过程存在漏洞。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江工业大学,其通讯地址为:310014 浙江省杭州市下城区潮王路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。