买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:谷歌有限责任公司
摘要:本公开的方面针对具有通过高速芯片到芯片互连连接的计算和存储器节点的异构机器学习加速器系统。尽管现有的远程解聚存储器可能需要经由远程处理单元的存储器扩展,但本发明的方面经由芯片到芯片互连将存储器节点添加到机器学习加速器集群中,而不需要来自远程处理单元的帮助来实现更高的性能,更简单的软件堆栈和或更低的成本。存储器节点可以支持预取和智能压缩,以实现低成本存储器的使用而不会降低性能。
主权项:1.一种机器学习加速器系统,其特征在于,包括:一个或多个加速器集群,所述一个或多个加速器集群包括通过高速芯片到芯片互连连接的多个非均匀分布的存储器节点和多个计算节点;和一个或多个处理器,被配置为经由所述高速互连将机器学习模型或数据从所述多个非均匀分布的存储器节点中的较慢的存储器节点预取到所述计算节点中的片上存储器。
全文数据:
权利要求:
百度查询: 谷歌有限责任公司 具有柔性系统资源平衡的异构ML加速器集群
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。