申请/专利权人：清华大学

申请日：2022-03-24

公开（公告）日：2024-06-25

公开（公告）号：CN114844843B

主分类号：H04L47/263

分类号：H04L47/263;H04L43/0852

优先权：

专利状态码：有效-授权

法律状态：2024.06.25#授权;2022.08.19#实质审查的生效;2022.08.02#公开

摘要：本发明涉及通信领域，提供一种应用实例数量的调整方法及装置，方法包括：获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求；基于入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定应用实例的目标数量；将应用实例的初始数量调整至目标数量。由于调整过程中综合考虑到了入口网关处的请求到达状况、应用实例的运行状态以及用户的时延需求，可以通过应用实例数量的自动伸缩提高资源利用率，还可以满足用户的服务响应时延要求，有效解决了现有的无服务平台中自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的问题。

主权项：1.一种应用实例数量的调整方法，其特征在于，包括：获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求；基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量；将所述应用实例的初始数量调整至所述目标数量；基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量，包括：基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值；将所述应用实例的初始数量与所述第一阈值进行比较，得到第一比较结果；基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值；将所述应用实例的运行状态信息中平均队列长度与所述第二阈值进行比较，得到第二比较结果；基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量；所述入口网关处的请求到达信息包括平均请求到达速率；基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值，包括：将所述平均请求到达速率与所述运行状态信息中平均单个应用实例的处理能力相除，得到第一阈值；基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值，包括：将所述服务响应时延要求与所述应用实例的运行状态信息中平均单个请求完成时长做差，得到时长差值；将所述运行状态信息中平均单个应用实例的处理能力与所述时长差值相乘，得到第二阈值；基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量，包括：若所述应用实例的初始数量小于所述第一阈值，或者所述应用实例的初始数量等于所述第一阈值且所述应用实例的运行状态信息中平均队列长度大于所述第二阈值，则通过预设的第一函数关系确定所述应用实例的目标数量；若所述应用实例的初始数量等于所述第一阈值，且所述应用实例的运行状态信息中平均队列长度小于或等于所述第二阈值，则将所述应用实例的初始数量作为所述应用实例的目标数量；若所述应用实例的初始数量大于所述第一阈值，则通过预设的第二函数关系确定所述应用实例的目标数数量；所述第一函数关系为： 其中，Pnew为应用实例的目标数量，V为平均请求到达速率，td为调整周期，为平均队列长度，Pcu为应用实例的初始数量，为平均单个应用实例的处理能力，TSLO为服务响应时延要求，为平均单个请求完成时长；所述第二函数关系为： 其中，Pnew为应用实例的目标数量，V为平均请求到达速率，td为调整周期，为平均队列长度，为平均单个应用实例的处理能力，TSLO为服务响应时延要求，为平均单个请求完成时长。

全文数据：

权利要求：

百度查询： 清华大学 应用实例数量的调整方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD