申请/专利权人:支付宝(杭州)信息技术有限公司
申请日:2024-03-15
公开(公告)日:2024-06-21
公开(公告)号:CN118228304A
主分类号:G06F21/62
分类号:G06F21/62;H04L9/40;G06F21/60;G06F8/65;G06F8/60;G06N20/00;G06F17/16
优先权:
专利状态码:在审-公开
法律状态:2024.06.21#公开
摘要:本说明书实施例提供一种实现隐私保护的多方协同更新大模型的方法及系统,在协同更新大模型的方法中,各参与方利用本地样本集,对预训练后具有基础参数集的基础模型进行微调,其中包括,更新参数量远小于基础参数集的参数组。各参与方将更新后参数组的参数组合结果进行加密,并将加密结果提供给服务器。服务器将n个参与方发送的n份加密结果加载到其可信执行环境TEE中,在TEE中,解密n份加密结果,得到n份参数组合结果,以及基于预先部署在TEE中的基础参数集,以及n份参数组合结果,确定n个参与方协同更新的大模型。
主权项:1.一种实现隐私保护的多方协同更新大模型的方法,所述多方包括服务器和n个参与方;所述方法包括:每个参与方i,利用本地样本集,对预训练后具有基础参数集的基础模型进行微调,其中包括,更新参数量远小于所述基础参数集的参数组;每个参与方i,将更新后参数组的参数组合结果进行加密,并将加密结果提供给所述服务器;所述服务器,将n个参与方发送的n份加密结果加载到其可信执行环境TEE中,在TEE中,解密所述n份加密结果,得到n份参数组合结果;基于预先部署在所述TEE中的基础参数集,以及所述n份参数组合结果,确定所述n个参与方协同更新的大模型。
全文数据:
权利要求:
百度查询: 支付宝(杭州)信息技术有限公司 实现隐私保护的多方协同更新大模型的方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。