首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】数据泄露的风险评估方法、装置及存储介质_华为技术有限公司_202211575156.3 

申请/专利权人:华为技术有限公司

申请日:2022-12-08

公开(公告)日:2024-06-21

公开(公告)号:CN118228295A

主分类号:G06F21/62

分类号:G06F21/62;G06F21/57;G06N20/00

优先权:

专利状态码:在审-公开

法律状态:2024.06.21#公开

摘要:本申请涉及机器学习领域,尤其涉及一种数据泄露的风险评估方法、装置及存储介质。所述方法包括:获取训练数据集和待评测模型,确定参考模型,参考模型为基于训练数据集构建的机器学习模型,参考模型不同于待评测模型;获取多个训练样本各自对应的相对损失差异,相对损失差异指示训练样本在参考模型和待评测模型下的数据泄露的风险程度之间的相对差异;根据多个训练样本各自对应的相对损失差异,确定待评测模型的风险结果。本申请实施例针对机器学习模型的训练数据集,提出了一种数据泄露的风险评估的量化方法,可以评估机器学习模型在成员推理攻击下泄露训练数据集的数据的风险程度,提高了数据泄露的风险评估的合理性和准确性。

主权项:1.一种数据泄露的风险评估方法,其特征在于,所述方法包括:获取训练数据集和待评测模型,所述训练数据集包括多个训练样本;确定参考模型,所述参考模型为基于所述训练数据集构建的机器学习模型,所述参考模型不同于所述待评测模型;获取所述多个训练样本各自对应的相对损失差异,所述相对损失差异指示所述训练样本在所述参考模型和所述待评测模型下的数据泄露的风险程度之间的相对差异;根据所述多个训练样本各自对应的相对损失差异,确定所述待评测模型的风险结果,所述风险结果指示所述待评测模型在成员推理攻击下泄露所述训练数据集的数据的风险程度。

全文数据:

权利要求:

百度查询: 华为技术有限公司 数据泄露的风险评估方法、装置及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。