首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

正则化神经网络架构搜索 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:谷歌有限责任公司

摘要:本发明涉及正则化神经网络架构搜索。描述了一种方法,所述方法用于接收用于训练神经网络NN以执行机器学习任务的训练数据以及用于使用该训练数据确定用于执行ML任务的优化的NN架构。确定优化的NN架构包括:保持总体数据,针对候选架构的总体中的每个候选架构,该总体数据包括i定义候选架构的数据,以及ii指定在确定优化的神经网络架构时最近如何训练具有候选架构的神经网络的数据;以及使用多个工作器计算单元中的每一个来重复执行多个操作以基于所选定的具有最佳拟合度测度的候选架构生成新的候选架构,将新的候选架构添加到总体中,以及从总体中移除最近被训练最少的候选架构。

主权项:1.一种方法,包括:接收用于训练神经网络以执行机器学习任务的训练数据,所述训练数据包括多个训练示例以及针对每个训练示例的相应目标输出;以及使用所述训练数据确定用于执行所述机器学习任务的优化的神经网络架构,包括:保持总体数据,针对候选架构的总体中的每个候选架构,所述总体数据包括i定义所述候选架构的数据以及ii指定在确定所述优化的神经网络架构时最近如何训练具有所述候选架构的神经网络的数据,以及使用均与每个其他工作器计算单元异步运行的多个工作器计算单元中的每一个来重复执行下述操作:通过所述工作器计算单元,从所述总体中选择多个候选架构,针对每个选定的候选架构并且通过所述工作器计算单元,在所述训练数据的训练子集上训练具有所述候选架构的新神经网络以确定所述新神经网络的参数的训练值;通过在所述训练数据的验证子集上评估经训练的新神经网络的性能,针对每个选定的候选架构并且通过所述工作器计算单元确定拟合度测度,通过所述工作器计算单元,基于具有最佳拟合度测度的所选定的候选架构生成新的候选架构,其中生成所述新的候选架构包括:从突变集中随机地选择突变,所述突变集包括操作突变,所述操作突变随机地选择所选定的候选架构的多个单元中的一个,并且用从预定操作集中随机选择的另一操作来替换先前在所选定的候选架构中的所选定的单元内执行的操作中的至少一个,以及将随机选定的突变应用于所选定的候选架构,以及将所述新的候选架构添加到所述总体中。

全文数据:

权利要求:

百度查询: 谷歌有限责任公司 正则化神经网络架构搜索

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。