买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜东南大学;江苏省未来网络创新研究院申请的专利一种温度约束下的终端设备异构处理器推断加速方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114117918B 。

龙图腾网通过国家知识产权局官网在2025-06-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111426929.7，技术领域涉及：G06F30/27；该发明授权一种温度约束下的终端设备异构处理器推断加速方法是由张竞慧;黄天宇;王宇晨;金嘉晖;东方;张毅晔;徐波设计研发完成，并于2021-11-28向国家知识产权局提交的专利申请。

本一种温度约束下的终端设备异构处理器推断加速方法在说明书摘要公布了：本发明提供一种温度约束下的终端设备异构处理器推断加速方法，针对工业生产环境下配备多个异构处理器的智能终端设备，解决深度神经网络层间异构、处理器异构和环境温度导致的终端设备推断效率低的问题。本发明首先考虑工业生产的环境温度和终端设备处理器功率，建立了温度约束下的终端设备动态频率模型，并使用温度感知的动态频率算法设定设备频率；然后，根据深度神经网络中不同层的计算方式和结构特性，设计了深度神经网络单层并行方法；最后，利用终端设备中的异构处理器，设计了面向异构处理器的深度神经网络单层计算任务分配方法，保障了终端设备异构处理器协同推断的低延迟和鲁棒性。

本发明授权一种温度约束下的终端设备异构处理器推断加速方法在权利要求书中公布了：1.一种温度约束下的终端设备异构处理器推断加速方法，其特征在于，包括以下步骤： 步骤一：构建温度约束下的终端设备动态频率设定模型，分析工业生产环境下的终端设备功耗控制与时钟频率约束关系，通过实际测量环境温度、设备功耗建模；构建温度约束下的终端设备动态频率设定模型时，基于建模关键参数终端设备中异构处理器的频率fprocessor、异构处理器功耗Pprocessor，得出终端设备总功耗P；基于建模关键参数t时刻环境温度Tenot与设备温度Tt，得出设备稳态运行温度T∞；异构处理器的浮点运算速度与设备稳态运行温度遵循一定约束； 步骤二：神经网络单层粒度并行方式选择，刻画深度神经网络各层的计算量，分析卷积层、池化层、全连接层这三类常见层的数据结构与计算量，结合异构处理器的计算方式和结构特性，估算每一层在各处理器上的计算延迟，从而确定深度神经网络单层并行方法； 步骤三：以步骤一、二为基础，提供深度神经网络推断过程的单层粒度计算负载划分，具体包括： 首先，考虑工业生产的高温环境，根据步骤一建立的温度约束下的终端设备动态频率模型，设定设备处理器频率，从而实现对设备功耗的限制以保持设备的温度在合理工况区间； 之后，根据步骤二中设计的深度神经网络单层并行方法，选定不同层及其组合的单层粒度并行模式，可选模式为数据并行与模型并行，进一步考虑每层来自于将两个处理器的输出结果合并造成的计算时间，即并行后额外时延； 最后，实现异构处理器的深度神经网络单层计算任务分配，任务分配的目标为实现终端设备推断总时延最小；将温度约束下的终端设备异构处理器推断加速问题转化为一个遵从一定约束的优化问题，并使用温度感知的动态频率算法TADF与单层异构处理器负载分配算法HSWD算法对每层的计算任务进行负载分配，使得每一层的推断时延最低； 所述温度感知的动态频率算法TADF基于设备最大工作温度限制和CPU、GPU的最大浮点运算速度限制，设定CPU和GPU的浮点运算速度；TADF算法如下： 所述单层异构处理器负载分配算法HSWD算法根据CPU和GPU的浮点运算速度以及深度神经网络的每层计算量设定每层的计算负载分配；HSWD算法如下： 其中，fC为CPU的浮点运算速度，fG为GPU的浮点运算速度，和分别表示CPU和GPU的最大浮点运算速度，Tmax为最大稳定工作温度，Teno∞为稳定环境温度，Wi为模型中第i层计算量，WC为模型各层CPU计算量集合，WG为模型各层GPU计算量集合，为模型中第i层CPU计算量，为模型中第i层GPU计算量，为使用并行方式执行层Li的延迟，和分别是仅使用CPU和GPU执行层Li所需时间，是使用并行方式推断时合并两个处理器输出结果造成的额外时延，n为浮点运算次数，α0、α1、α2、α3为式中常量。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人东南大学;江苏省未来网络创新研究院，其通讯地址为：210000 江苏省南京市麒麟科创园智识路26号启迪城立业园04幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。