买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜华东师范大学申请的专利一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114565007B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210023028.1，技术领域涉及：G06F18/214；该发明授权一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法是由徐辰;毕倪飞;陈梓浩;周傲英设计研发完成，并于2022-01-10向国家知识产权局提交的专利申请。

本一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法在说明书摘要公布了：本发明公开了一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法，所述方法包括：运行时数据收集器在运行时采集自适应通信间隔所需的通信时间tcm和计算时间tcp数据，自适应通信间隔选择器通过上述采集获得的通信时间和计算时间数据自动调整通信间隔τ；对模型进行迭代训练，在每一轮迭代中采用纠正技术更新本地模型；每隔τ轮迭代利用跳过通信策略更新全局模型。本发明通过采集的数据自适应地选择一个通信间隔τ，基于该通信间隔τ，系统每隔τ轮迭代通过网络通信来更新一次全局模型，从而降低了网络通信开销，最终缩短了训练模型的时间。

本发明授权一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法在权利要求书中公布了：1.一种分布式深度学习系统中具有低通信开销和高统计效率的训练模型的方法，其特征在于，所述方法包括如下步骤： 步骤A：运行时数据收集器在运行时采集自适应通信间隔所需的通信时间tcm和计算时间tcp数据，自适应通信间隔选择器通过上述采集获得的通信时间和计算时间数据自动调整通信间隔τ； 所述步骤A进一步包括如下步骤： 步骤A1：系统自动将通信间隔τ初始化为1；设置通信间隔τ＝1，并设置自适应通信间隔标志位flag； 步骤A2：在系统运行时，运行时数据收集器采集第一轮迭代中通信的耗时tcm和计算的耗时tcp； 步骤A3：自适应通信间隔选择器根据第一轮迭代中采集的tcm和tcp来调整通信间隔 步骤B：对模型进行迭代训练，在每一轮迭代中采用纠正技术更新本地模型； 所述步骤B进一步包括如下步骤： 步骤B1：每个训练进程根据本地模型计算出梯度； 步骤B2：每个训练进程计算出纠正，所述纠正是指本地模型和全局模型之间的差值； 步骤B3：每个训练进程用计算所得的梯度和纠正来更新本地模型； 步骤C：每隔τ轮迭代利用跳过通信策略更新全局模型； 所述步骤C进一步包括如下步骤： 步骤C1：用当前迭代数对自适应设置的通信间隔τ取余，如果余数为0表明当前迭代需要更新全局模型，之后进入步骤C2； 步骤C2：通过一次网络通信聚合各个训练进程计算出的纠正，并用聚合后的纠正来更新全局模型； 步骤C2中，所述聚合后的纠正以下述公式表示： 其中，n代表训练进程的总数，k代表迭代数，代表编号为i的训练进程在第k轮迭代中计算所得的纠正； 所述全局模型的更新形式如公式所示，其中，i代表训练进程的编号，k代表迭代数，和分别代表在第k和k+1轮迭代中的全局模型参数，代表第k轮迭代中的全局模型动量，μ代表动量系数，α代表纠正系数； 所述全局模型动量初始时为空，每隔τ轮迭代根据聚合后的纠正进行一次更新，具体的更新形式为：其中，i代表训练进程的编号，k代表迭代数，和代表在第k和k+1轮迭代中的全局模型动量，代表聚合后的纠正，μ和α分别代表动量系数和纠正系数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华东师范大学，其通讯地址为：200241 上海市闵行区东川路500号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。