首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于联邦学习和大小模型协同的跨模态知识融合计算方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国人民解放军总医院

摘要:本发明属智能医疗领域,具体涉及一种基于联邦学习和大小模型协同的跨模态知识融合计算方法,方法包括:本地客户端分为参数提供客户端和参数接收客户端,参数提供客户端利用自身的计算能力使用本地数据进行本地训练得到本地更新的模型和参数;上传至中央服务器,参数接收客户端只向中央服务器发送参数接收需求;所述参数接收客户端根据最大化自身的接收客户端效用为参数提供客户端设置单位时间奖励;所述中央服务器接收不同的本地客户端的所述更新的模型和参数进行聚合得到全局模型参数,再将所述全局模型参数发送至本地客户端;所述本地客户端更新本地模型用于所述本地训练。本申请通过在联邦学习中设立奖励机制,促进联邦学习的高效率训练。

主权项:1.一种基于联邦学习和大小模型协同的跨模态知识融合计算方法,其特征在于,所述联邦学习由中央服务器和n个本地客户端组成,n为大于1的自然数,所述方法包括:本地客户端分为参数提供客户端和参数接收客户端,参数提供客户端利用自身的计算能力使用本地数据进行本地训练得到本地更新的模型和参数;所述更新的模型和参数上传至中央服务器,参数接收客户端只向中央服务器发送参数接收需求;所述参数接收客户端根据最大化自身的接收客户端效用为参数提供客户端设置单位时间奖励,所述参数提供客户端根据所述单位时间奖励确定为联邦学习的训练任务提供所述计算能力;其中,参数提供客户端、参数接收客户端在迭代过程中是动态划分的:划分依据为当前迭代训练时,本地客户端的精度提升小于阈值,则该客户端停止本地的训练,转换为参数接收客户端,参数接收客户端只向中央服务器发送参数接收请求,接收到中央服务器发送的全局参数后更新本地参数并计算参数在本地数据集上的精度提升,当精度提升达到阈值之后,参数接收客户端转换回参数提供客户端;所述参数接收客户端根据最大化自身的接收客户端效用为参数提供客户端设置单位时间奖励的过程表示为根据参数提供客户端的计算性能、参数提供客户端kv参与模型训练任务需要的总计算代价、参数提供客户端kv参与联邦学习获得的奖励计算得到;所述参数接收客户端根据最大化自身的接收客户端效用为参数提供客户端设置单位时间奖励的过程表示为: 其中,表示参数接收客户端设置的单位时间奖励,是与参数提供客户端的计算性能,是参数提供客户端kv参与模型训练任务需要的总计算代价,是参数提供客户端的奖励预算,是成本折算因子;所述中央服务器接收不同的本地客户端的所述更新的模型和参数进行聚合得到全局模型参数,再将所述全局模型参数发送至本地客户端;所述本地客户端接收所述中央服务器端发送的所述全局模型参数,更新本地模型用于所述本地训练。

全文数据:

权利要求:

百度查询: 中国人民解放军总医院 基于联邦学习和大小模型协同的跨模态知识融合计算方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。