恭喜南京信息工程大学陈宇获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜南京信息工程大学申请的专利一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119622729B 。
龙图腾网通过国家知识产权局官网在2025-04-29发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510163284.4,技术领域涉及:G06F21/56;该发明授权一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质是由陈宇;闫雷鸣;于洁敏;尤剑飞;吉丽菁设计研发完成,并于2025-02-14向国家知识产权局提交的专利申请。
本一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质在说明书摘要公布了:本发明公开了一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质,通过对可疑模型进行分支通道函数包装,利用动态计数器统计分支的调用次数和激活比例,从而有效识别模型中存在的潜在冗余后门分支。在复杂多分支网络的应用场景中,无论模型是否受到结构中毒影响,本发明都能够精准捕捉模型各分支的激活行为特征,全面评估模型的冗余情况。当多分支神经网络的某一分支在特定输入下呈现出极高的激活频率,而在正常输入时激活贡献度显著偏低,则将其判定为特定任务的后门攻击冗余分支。本发明能够有效降低结构后门攻击对深度模型的潜在威胁,显著提升模型的稳健性和实际应用价值,为智能模型安全领域提供了一种全新的技术手段。
本发明授权一种基于分支激活统计机制的冗余性结构后门检测方法、电子设备及存储介质在权利要求书中公布了:1.一种基于分支激活统计机制的冗余性结构后门检测方法,其特征在于:具体包括:对待检测模型的结构进行分析,得到待检测模型的模型计算图,通过解析模型计算图,识别待检测模型中的多分支通道;改造包装待检测模型中的多分支通道,形成包装后的分支通道函数,包装后的分支通道函数组成包装后的待检测模型;对包装后的待检测模型进行测试,利用包装后的分支通道函数,获取每个分支通道的综合激活频率、分支激活条件熵;根据每个分支通道的综合激活频率、分支激活条件熵计算每个分支通道的激活贡献比和冗余性预测分数;根据每个分支通道的激活贡献比和冗余性预测分数,判断待检测模型的分支通道是否为冗余分支或潜在后门分支;每个分支通道的激活贡献比Ri′表达式如下: 其中,Pi为每个分支通道的综合激活频率,Ptotal为总激活频率; 或者,每个分支通道的激活贡献比Ri′表达式如下: 其中,ε为非零正数;每个分支通道的冗余性预测分数Ei表达式如下: 其中,HBi|X为分支通道Bi的分支激活条件熵,HBj|X为分支通道Bj的分支激活条件熵,Pi为分支通道Bi的综合激活频率,Pj为分支通道Bj的综合激活频率,max为求取最大值函数,λ表示权重;根据每个分支通道的激活贡献比和冗余性预测分数,判断待检测模型的分支通道是否为冗余分支或潜在后门分支,具体包括:若分支通道Bi的冗余预测分数Ei>T且激活贡献比R′i<Q,则分支通道Bi为冗余分支或潜在后门分支;若分支通道Bi的冗余预测分数Ei<T且激活贡献比R′i>Q,则分支通道Bi为正常推理核心分支;其中,T表示模型冗余性判断分数阈值,Q表示分支激活贡献比阈值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京信息工程大学,其通讯地址为:210044 江苏省南京市江北新区宁六路219号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。