买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京理工大学申请的专利面向无监督学习模型的模型生成及实时构建方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114091666B 。

龙图腾网通过国家知识产权局官网在2025-03-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111175782.9，技术领域涉及：G06N3/084；该发明授权面向无监督学习模型的模型生成及实时构建方法是由张青龙;韩锐;刘驰;辛高枫设计研发完成，并于2021-10-09向国家知识产权局提交的专利申请。

本面向无监督学习模型的模型生成及实时构建方法在说明书摘要公布了：本发明提出一种面向无监督学习模型的模型生成及实时构建方法，包括：步骤1，获取原始模型；步骤2，生成模型块，根据模型块获得派生模型块，为每个派生模型块构建训练环境；步骤3，对派生模型块进行训练，更新派生模型块的参数；步骤4，对所有模型块进行评估，以量化模型块的性能指标和使用价值；步骤5，对边缘推理场景进行建模，约束的优化问题；步骤6，求解构建的优化问题；步骤7，根据求解得到的模型块选择方案生成新模型，进行模型的缩放。所述方法避免了无监督学习中不稳定性给派生模型生成带来的影响，保证了派生模型的高精度；降低了无监督学习中派生模型的离线生成成本和在边缘推理中实时缩放模型的在线成本。

本发明授权面向无监督学习模型的模型生成及实时构建方法在权利要求书中公布了：1.一种面向无监督学习模型的模型生成及实时构建方法，其特征在于，包括：步骤1，针对无监督学习场景，定义模型的属性和模型块的属性及模型和模型块的操作方法，以赋予无监督模型进行分析和操作的能力，以获取原始模型：步骤1.1，继承源码中提供的模型管理器抽象类，对模型管理器抽象类中缺失的方法予以补充实现；步骤1.2，继承源码中提供的模型块管理器抽象类，对模型块管理器抽象类中缺失的方法予以补充实现，获得原始模型；步骤2，从原始模型中生成多个模型块，根据模型块获得派生模型块，为每个派生模型块构建训练环境：步骤2.1，根据模型块管理器中定义的划分原则，从原始模型中提取出n个原始模型块b1,b2,…,bn；步骤2.2，根据模型块管理器中定义的派生块压缩力度、派生块压缩方法的信息，对每一个原始模型块bi,1≤i≤n，分别以压缩力度对其进行压缩，从而生成ni个派生模型块n个原始模型块生成个派生模型块；步骤2.3，为每个派生块安排训练数据的来源；步骤3，对派生模型块进行训练，更新派生模型块的参数：步骤3.1，将训练原始模型所用的训练数据输入原始模型，使原始模型完成一次推理，并将原始模型中每个原始模型块bi,1≤i≤n的输入数据和输出数据传输给对应的派生模型块的训练环境；步骤3.2，将原始模型块bi,1≤i≤n的输入数据传输给每个派生模型块bi,j,1≤j≤ni使派生模型块进行前馈计算，得到派生块bi,j的输出数据；步骤3.3，计算原始模型块bi,1≤i≤n和其每个派生模型块bi,j,1≤j≤ni的输出数据之间的误差值，若误差值已经小于设置阈值，则表示派生模型块已得到充分的训练，结束训练，否则继续执行步骤3.4；若所有派生块均已停止训练，则步骤3结束；步骤3.4，使用反向传播算法和梯度下降法，将误差值反向传播后进行梯度下降，更新派生模型块的参数，使误差值越来越小，从而使派生模型块与原始模型块的功能越来越相近；步骤4，对所有模型块进行评估，以量化模型块的性能指标和使用价值，其中，对所有模型块进行评估包括评估派生模型块的精度损失：包括：步骤4.1，评估原始模型的体积s以及模型块的体积下降量Si,j,1≤i≤n,0≤j≤ni，原始模型块的体积下降量为0，即Si,0＝0；再将派生模型块bi,j体积与其原始块bi体积之差作为派生模型块的体积下降量Si,j；步骤4.2，评估派生模型块的精度损失：步骤4.21，随机选取n个模型块组成一个完整模型，重复该步骤k次，生成k个不同的模型M1,M2,…,Mk；步骤4.22，将派生模型块bi,j换入k个模型，得到k个新模型步骤4.23，将派生模型块bi,j对应的原始块bi换入步骤4.22中的k个模型，得到k个新模型步骤4.24，评估派生块bi,j精度损失表示为Ai,j,1≤i≤n,0≤j≤ni： 其中，accM代表模型M的精度；步骤4.3，评估模型块的延迟下降量Ti,j,1≤i≤n,0≤j≤ni：步骤4.31，将模型块传输到边缘设备上，由于模型和模型块的推理延迟与所在设备有关，因此延迟的评估需要在目标边缘设备上进行；步骤4.32，评估原始模型的推理延迟t、原始模型块bi1≤i≤n的推理延迟ti；步骤4.33，评估派生模型块bi,j的推理延迟ti,j，需要说明的是，推理延迟不仅与设备有关，还与实时可用资源情况有关，派生块带来的延迟下降量ti-ti,j会随着环境而波动，并不适合作为评估所用的指标，然而延迟下降百分比却能在各种环境下保持相对稳定，采用该指标来评估派生块的延迟下降，即步骤5，选择边缘推理场景下最优的模型快，以模型块选择方案为未知量、以最大化模型精度为目标、以模型块运行环境和应用场景为约束因素步骤5，包括：步骤5.1，选择模型块，对个派生模型块，使用Bi,j∈{0,1},1≤i≤n,1≤j≤ni来表示是否选择模型块bi,j，Bi,j为1时代表选择，为0时表示不选择，模型中的一个位置有一个模型块被选择，即步骤5.2，以最小化由派生模型块带来的精度损失为优化目标，优化目标表示为下式1： 上式1中，Ai,j表示派生模型块bi,j的精度损失，为了保证应用的正常运行，需要考虑来自操作系统可用运行内存smax的约束，以及来自用户和应用场景的最大允许延迟约束tmax，分别如下式2、下式3所示： 上式2及上式3中，s为原始模型的体积；Si,j为派生模型块的体积下降量；t为原始模型的推理延迟；ti为原始模型块bi,1≤i≤n的推理延迟；Ti,j为派生模型块bi,j相对于原始模型块bi的推理延迟下降百分比；步骤6，求解模型块的最优选择方案:步骤6.1，先去除优化问题中未知量的整数约束，将原始的整数线性规划问题松弛为线性规划问题；步骤6.2，在多项式时间内进行求解，得到原始问题的最优实数解；步骤6.3，使用分支限界法在最优实数解的基础上寻找最优整数解；步骤7，根据求解得到的模型块选择方案对当前模型进行缩放，生成新模型:步骤7.1，根据Bi,j组装或切换模型块，若Bi,j是通过第一次求解优化问题得到的，则直接加载所有Bi,j＝1的模型块bi,j组装成完整模型，步骤7结束；否则转到步骤7.2；步骤7.2，将Bi,j与上一次求解得到的模型块组合方案进行比较，若两模型块组合方案同一位置上存在不相等的元素，则表明该位置的模型块需要被更换，将用于更换的模型块加载入内存，再用加载入内存的模型块替换模型中需要被更换的块，生成一个新的模型，完成对模型的缩放。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京理工大学，其通讯地址为：100081 北京市海淀区中关村南大街5号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。