龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京航空航天大学
摘要：本发明提供了一种面向多神经网络模型推理场景的边缘端智算芯片共享缓存分配算法。本算法分为层数选择子算法和容量分配子算法。首先，层数选择子算法根据各模型各层的预测推理时长，计算出本轮次中各模型应当推理的层数，以最小化计算资源空闲；其次，容量分配子算法根据不同缓存容量下各模型的预测资源需求量，计算出各模型所分配的缓存容量，以最小化资源需求总量。层数选择子算法和容量分配子算法均采用动态规划方法，以降低算法时间复杂度。本发明提供的算法能有效改善多模型推理场景下，边缘端智算芯片缓存资源竞争问题，从而提高系统整体性能。
主权项：1.一种面向多神经网络模型推理场景的边缘端智算芯片共享缓存分配算法，其特征在于，根据各模型在模型部署阶段生成的性能预测信息，将共享缓存划分成容量不同的多个缓存空间并分配给不同模型推理进程使用，并且根据各模型在推理过程中的资源需求变化动态调整共享缓存容量分配方案。
全文数据：
权利要求：
百度查询： 北京航空航天大学 一种面向多神经网络推理场景的边缘端智算芯片共享缓存分配算法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号