买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：上海零数众合信息科技有限公司

摘要：本发明公开了一种联邦模型的训练方法、装置、设备及存储介质，涉及联邦学习技术领域。该方法包括：在对联邦模型的训练过程中，确定所述联邦模型在当前训练轮次的第一中间特征；根据所述第一中间特征、数据标签、以及从数据提供方获取的第二特征，确定所述联邦模型在当前训练轮次的反向梯度；根据所述反向梯度和所述第一中间特征，确定第一更新梯度，并所述采用第一更新梯度对所述第一模型参数进行更新；对所述反向梯度进行加密，得到目标梯度密文，并发送给数据提供方；接收并解密所述数据提供方发送的第二梯度更新密文，得到第一梯度更新明文并发送给所述数据提供方，以使所述数据提供方根据所述第一梯度更新明文进行联邦模型的梯度更新。

主权项：1.一种联邦模型的训练方法，其特征在于，应用于数据应用方的第一控制节点，所述数据应用方还包括至少一个第一计算节点，所述第一计算节点由所述第一控制节点进行控制，所述第一控制节点参与联邦模型的训练，所述方法包括：基于第一数据集划分方式，对本地训练数据进行划分，得到至少一个第一训练数据，并将所述第一训练数据发送给所述第一计算节点；在对联邦模型的训练过程中，控制所述第一计算节点根据所述第一训练数据和当前训练轮次的第一模型参数，确定所述联邦模型在当前训练轮次的第一中间特征，包括：控制所述第一计算节点将所述第一训练数据和当前训练轮次的第一模型参数的乘积，作为所述联邦模型在当前训练轮次的第一中间特征；其中，所述联邦模型为银行纵向联邦信用分模型；所述第一训练数据为银行中客户的基础信息和交易信息；所述基础信息包括客户的年龄和性别；所述交易信息包括银行流水信息；所述银行流水信息包括当月消费额、当月存款额和违约次数；根据所述第一中间特征、数据标签、以及从数据提供方获取的第二特征，确定所述联邦模型在当前训练轮次的反向梯度；其中，所述数据标签为真实的信用分；根据所述反向梯度和所述第一中间特征，确定第一更新梯度，并采用所述第一更新梯度对所述第一模型参数进行更新，包括：所述第一控制节点和各第一计算节点将所述反向梯度和所述第一中间特征的乘积，作为第一更新梯度；各第一计算节点分别将其对应的第一更新梯度发送给所述第一控制节点；所述第一控制节点将收集的第一更新梯度和本地计算得到的第一更新梯度进行累加，得到目标更新梯度；基于梯度迭代方式，将所述第一模型参数，与所述目标更新梯度和学习率的乘积之间的差值作为更新后的第一模型参数；对所述反向梯度进行加密，得到目标梯度密文，并将所述目标梯度密文发送给数据提供方，以使所述数据提供方根据所述目标梯度密文和第二训练数据，得到第二梯度更新密文；其中，所述第二训练数据为银行中客户的基础信息和交易信息；所述基础信息包括客户的年龄和性别；所述交易信息包括银行流水信息；所述银行流水信息包括当月消费额、当月存款额和违约次数；接收并解密所述数据提供方发送的第二梯度更新密文，得到第一梯度更新明文，并将所述第一梯度更新明文发送给所述数据提供方，以使所述数据提供方根据所述第一梯度更新明文进行联邦模型的梯度更新；其中，所述根据所述第一中间特征、数据标签、以及从数据提供方获取的第二特征，确定所述联邦模型在当前训练轮次的反向梯度，包括：接收所述数据提供方发送的第二特征，基于第一数据集划分方式，对所述第二特征进行拆分，得到所述第一控制节点和各第一计算节点对应的第三中间特征；根据所述第一中间特征和所述第三中间特征，确定目标特征，包括：所述第一控制节点和各第一计算节点分别将各自对应的第一中间特征和第三中间特征进行加和，得到目标特征；根据所述目标特征得到目标预测结果，包括：所述第一控制节点和各第一计算节点分别根据其对应的目标特征，基于联邦模型预测得到对应的目标预测结果；根据所述目标预测结果和数据标签，确定所述联邦模型在当前训练轮次的反向梯度，包括：将所述目标预测结果和数据标签之间的差值作为联邦模型在当前训练轮次的反向梯度。

全文数据：

权利要求：

百度查询： 上海零数众合信息科技有限公司 一种联邦模型的训练方法、装置、设备及存储介质