买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:谷歌有限责任公司
摘要:方法、系统和设备,包括被编码在计算机存储介质上的计算机程序,用于对网络输入执行机器学习任务以生成网络输出。在一个方面,系统中的一者包括被配置为执行机器学习任务的神经网络,该神经网络包括一个或多个专家神经网络块,该一个或多个专家神经网络块各自包括执行多个专家神经网络之间的专家选择路由的路由器。
主权项:1.一种包括神经网络的系统,所述神经网络被配置为处理网络输入并针对所述网络输入生成网络输出,所述神经网络包括一个或多个网络块的序列,所述序列包括一个或多个专家网络块,所述一个或多个专家网络块被配置为执行操作,所述操作包括:获得表示所述网络输入的中间表示的块输入,所述块输入包括多个元素;从所述块输入确定多个子输入,每个子输入包括所述块输入的所述多个元素的相应的不同子集;对于所述专家网络块的多个专家子网络中的每一者:处理所述多个子输入以针对每个子输入生成相应的分数;根据所述相应的分数来选择所述子输入中的一者或多者;以及对于每个选择的子输入,使用所述专家子网络来处理所选择的子输入以生成相应的子输出;对于所述多个子输入中的每一者,处理与所述子输入相对应的由相应的专家子网络生成的所述子输出,以针对所述子输入生成组合子输出;以及通过组合所述多个子输入的相应的组合子输出来生成块输出。
全文数据:
权利要求:
百度查询: 谷歌有限责任公司 到混合专家神经网络中的专家子网络的路由
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。