龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
申请/专利权人：上海天数智芯半导体有限公司
申请日：2024-02-23
公开（公告）日：2024-06-21
公开（公告）号：CN118227314A
主分类号：G06F9/50
分类号：G06F9/50;G06N3/08
优先权：
专利状态码：在审-公开
法律状态：2024.06.21#公开
摘要：本申请提供一种并行方案规划及模型训练方法、程序产品、介质及设备。其中，并行方案规划方法包括：从集群内的加速卡中确定测试加速卡，每种类型的加速卡至少选择一张作为测试加速卡；将目标模型载入到测试加速卡的内存中；对目标模型的计算图进行拓扑排序，得到测试序列；利用测试加速卡依次执行测试序列中的图节点，获得每种类型的加速卡在执行每个图节点时的性能基线数据；根据性能基线数据以及测试序列对计算图进行切分，确定每个计算子图所要分配的加速卡；根据分配结果确定在训练目标模型时集群中采用的并行方案。该方法在进行并行方案规划时有效匹配了集群中异构混合算力的特点，有利于提升加速卡的整体算力利用率。
主权项：1.一种并行方案规划方法，其特征在于，包括：从集群内的计算节点上安装的加速卡中确定测试加速卡；其中，所述集群用于训练目标模型，所述集群中每种类型的加速卡至少选择一张作为所述测试加速卡；将所述目标模型载入到所述测试加速卡的内存中；对所述目标模型的计算图进行拓扑排序，得到由所述计算图中的图节点构成的测试序列；利用所述测试加速卡基于载入的所述目标模型依次执行所述测试序列中的图节点，获得每种类型的加速卡在执行每个图节点时的性能基线数据；根据每种类型的加速卡对应的性能基线数据以及所述测试序列对所述计算图进行切分，得到多个计算子图，并确定在训练所述目标模型时每个计算子图所要分配的加速卡；根据所述计算子图的分配结果，确定在训练所述目标模型时所述集群中采用的并行方案，所述并行方案包括流水线并行方案。
全文数据：
权利要求：
百度查询： 上海天数智芯半导体有限公司 并行方案规划及模型训练方法、程序产品、介质及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号