龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：北京百舸飞驰科技有限公司
摘要：本发明公开一种基于K8s的GPU服务潮汐部署方法及装置，其中，基于K8s的GPU服务潮汐部署方法包括：基于K8s平台部署主控节点潮汐服务tide‑master、工作节点潮汐服务tide‑worker及网关潮汐服务tide‑gateway；通过自定义资源定义CRD定义GPU服务实例的运行信息；所述主控节点潮汐服务tide‑master监听自定义资源定义CRD和GPU资源信息，根据GPU资源信息初始化启动工作节点潮汐服务tide‑worker的所有tide‑worker节点；所述主控节点潮汐服务tide‑master根据实际GPU资源情况、各tide‑worker节点中模型的GPU使用情况和网关潮汐服务tide‑gateway的流量情况，动态调整工作节点潮汐服务tide‑worker和网关潮汐服务tide‑gateway的状态和流量分配策略。本技术方案根据模型需求和流量变化，及时进行调整，确保系统处于最佳状态，提高深度学习和人工智能应用的执行速度和效果。
主权项：1.一种基于K8s的GPU服务潮汐部署方法，其特征在于，包括：基于K8s平台部署主控节点潮汐服务tide-master、工作节点潮汐服务tide-worker及网关潮汐服务tide-gateway；通过自定义资源定义CRD定义GPU服务实例的运行信息；所述主控节点潮汐服务tide-master监听自定义资源定义CRD和GPU资源信息，根据GPU资源信息初始化启动工作节点潮汐服务tide-worker的所有tide-worker节点；所述主控节点潮汐服务tide-master根据实际GPU资源情况、各tide-worker节点中模型的GPU使用情况和网关潮汐服务tide-gateway的流量情况，动态调整工作节点潮汐服务tide-worker和网关潮汐服务tide-gateway的状态和流量分配策略。
全文数据：
权利要求：
百度查询： 北京百舸飞驰科技有限公司 一种基于K8s的GPU服务潮汐部署方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号