买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：烽火通信科技股份有限公司

摘要：本发明公开了一种深度学习多模型统一部署方法：根据用户在网管上的设置生成预测描述文件；下载预测描述文件和对应的模型元文件到智能计算单盘；根据预测描述文件和对应的模型元文件，在所述智能计算单盘上在预设时间完成对应的用户预测和上报。本发明实现模型与应用的解耦，训练后模型按描述文件模板输出描述，进行用户设置完成部署，避免边缘设备软件升级，到达快速模型部署；克服使用容器等部署前打包方案的缺点，在运行时实现模型输入与输出连接，计算图与预测结果重用；模型预测输出标签与设备原有数据标签统一编码，数据上报可重用原有消息通道，网管按原有数据相同方式处理预测结果。本发明还提供了相应的深度学习多模型统一部署装置。

主权项：1.一种深度学习多模型统一部署方法，其特征在于，包括：根据用户在网管上的设置生成预测描述文件；下载预测描述文件和对应的模型元文件到智能计算单盘；在下载预测描述文件和对应的模型元文件到智能计算单盘之后，还包括将模型元文件与预测描述文件加载到内存：将模型元文件和预测描述文件更新到模型计算图链表和预测描述链表，这两个链表启动初始化为两个空链表，然后遍历本地存储的模型元文件和预测描述文件，根据用户设置的预测描述，多次循环执行更新流程完成多个模型元文件和预测描述文件加载到内存，形成两个互相引用的初始链表；每个链表节点引用一个模型计算图，一个模型计算图可被多个用户预测引用；根据所述预测描述文件和对应的模型元文件，在所述智能计算单盘上在预设时间完成对应的用户预测和上报；数据采集模块向其数据源发起数据采集命令，将采集数据按模型需求顺序组成数据向量，数据向量输入到计算图得到预测结果，预测结果放入数据缓存模块，数据缓存模块以字典键值对的形式缓存预测标签及值；网管使用网管-设备数据协议通道对数据缓存模块的数据键值对发起查询，结果以告警、性能或状态方式无差别的显示；数据缓存模块作为数据采集模块的数据源，当有模型输入依赖另一模型的输出时，另一模型的输出在数据缓存模块以键值对存放并被采集；通过数据缓存模块和数据采集模块实现低级模型的预测输出被高级模型使用，实现低级模型的输出与高级模型输入连接，达到了模型预测结果的共享。

全文数据：

权利要求：

百度查询： 烽火通信科技股份有限公司 一种深度学习多模型统一部署方法与装置