首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于知识蒸馏的工控网络入侵检测方法及装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:浙江大学

摘要:本发明公开了一种基于知识蒸馏的工控网络入侵检测方法,该方法利用预训练大模型作为主要教师模型,利用神经网络模型作为辅助教师模型,将网络流量数据转化为灰度图像以训练主要教师模型,利用网络流量数据训练辅助教师模型,设置损失函数以使得学生模型从主要教师模型的特征提取、标签预测与真实标签中都能学习到知识,辅助教师模型只参与蒸馏损失计算,由辅助教师模型来纠正主要教师模型的预测错误,相当于对蒸馏过程进行剪枝,在保留大部分效果的情况下有效降低了训练消耗,使用类似单教师蒸馏的成本达到了多教师蒸馏的效果。

主权项:1.一种基于知识蒸馏的工控网络入侵检测方法,其特征在于,包括:获取网络流量数据及其对应的实际标签,并将所述网络流量数据编码为灰度图像,从而得到训练集;利用所述训练集对预训练大模型做微调得到主要教师模型,利用所述网络流量数据及对应的实际标签对神经网络模型做训练得到辅助教师模型,分别得到对应的第一标签向量和第二标签向量;基于知识蒸馏技术,利用主要教师模型和辅助教师模型辅助进行学生模型的训练,其中,基于第一标签向量和第二标签向量与学生模型输出的第三标签向量计算蒸馏损失,基于主要教师模型和学生模型中的投影层输出的特征计算特征损失,基于所述第三标签向量和相应的实际标签计算学生损失,从而得到训练时的总损失;获取待测工控网络的流量数据并转化为待测灰度图像;利用训练后的学生模型对所述待测灰度图像进行分类,从而判断所述待测工控网络是否被入侵;其中,在学生模型的训练之前,在主要教师模型和学生模型中各添加一层投影层,通过学生模型得到关于所述灰度图像的所述第三标签向量,计算教师模型和学生模型的投影层输出的特征之间的损失,作为所述特征损失。

全文数据:

权利要求:

百度查询: 浙江大学 一种基于知识蒸馏的工控网络入侵检测方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。