首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】一种基于特征约束和自适应损失平衡的机器遗忘方法_杭州电子科技大学_202410291653.3 

申请/专利权人:杭州电子科技大学

申请日:2024-03-14

公开(公告)日:2024-06-04

公开(公告)号:CN118133897A

主分类号:G06N3/0464

分类号:G06N3/0464;G06N3/08;G06F18/214;G06F18/22;G06F18/24

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.06.21#实质审查的生效;2024.06.04#公开

摘要:本发明公开了一种基于特征约束和自适应损失平衡的机器遗忘方法,包括如下步骤:构建原始卷积网络模型,利用当前的全部数据D进行训练,得到原始模型mo;步骤2,初始化遗忘模型mu,随机模型mr;将原始数据集划分为待遗忘数据Df和剩余数据Dr;计算mu对于Df的每个参数的重要性Ωi;将Df分别送入mu和mr中,得到mu和mr对于Df的特征输出,通过余弦相似度计算遗忘损失Lfgt;将Dr送入mu中,通过交叉熵计算恢复损失Lrec;计算自适应平衡损失权重,即当前时刻t的遗忘损失权重wfgtt和恢复损失权重wrect;利用步骤4中得到的参数重要性矩阵计算参数重要性正则化项;计算得到的损失结果计算得到的损失权重加权相加,得到总体损失,再进行正则化项,进行模型训练。

主权项:1.一种基于特征约束和自适应损失平衡的机器遗忘方法,其特征在于,该方法包括如下步骤:步骤1、构建原始卷积网络模型,获取原始数据集D并对原始卷积网络模型进行训练,得到原始模型mo,将原始卷积网络模型作为随机模型mr,将原始模型mo作为遗忘模型mu;步骤2、将原始数据集D划分为待遗忘数据Df和剩余数据Dr;步骤4、采用利用Fisher信息矩阵的方法计算遗忘模型mu对于待遗忘数据Df的每个参数的重要性Ωi;步骤5、将待遗忘数据Df分别送入遗忘模型mu和随机模型mr中,得到遗忘模型mu和随机模型mr对于待遗忘数据Df的特征输出,并通过余弦相似度计算遗忘损失Lfgt;步骤6、将剩余数据Dr送入遗忘模型mu中,通过交叉熵计算恢复损失Lrec;步骤7、根据遗忘损失Lfgt和恢复损失Lrec计算自适应平衡损失权重,即当前时刻t的遗忘损失权重wfgtt和恢复损失权重wrect;步骤8、利用步骤4中得到的参数重要性矩阵计算参数重要性正则化项;步骤9、将步骤5和6计算得到的损失结果按照步骤7计算得到的损失权重加权相加,得到总体损失,再加入步骤8中的正则化项,进行模型训练;步骤10、以步骤5至步骤9为一个周期,周期性循环步骤5到步骤9至初始化设定的迭代周期数,最终输出得到的遗忘模型mu。

全文数据:

权利要求:

百度查询: 杭州电子科技大学 一种基于特征约束和自适应损失平衡的机器遗忘方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。