(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210871366.0 (22)申请日 2022.07.22 (71)申请人 北京航空航天大 学 地址 100191 北京市海淀区学院路37号 (72)发明人 于劲松　梁思远　周金浛　唐荻音　 周倜　苗毅　陶来发　刘浩　 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/54(2006.01) (54)发明名称 基于任务队列的计算密集服务弹性伸缩方 法 (57)摘要 本发明涉及一种基于任务队列的计算密集 服务的弹性伸缩 方法， 用于计算密集但允许一定 延迟的服务的弹性伸缩。 该方法包括(S101)将可 独立执行的计算任务存储在任务队列中； (S102) 形成任务耗时估计映射； (S103)估计任务耗时； (S104)增减实例并预测任 务准时完成情况， 获取 最小实例数； (S105)按照最小实例数增减实例。 本发明提供的基于任务 队列的计算密集服务弹 性伸缩方法， 采用队列形式排列任务， 结合预测 和调整给出了在满足规定延迟要求范围内的最 小实例数， 在满足业务需求的同时最大程度的节 省计算资源， 满足计算密集 服务弹性伸缩 要求。 权利要求书1页 说明书4页 附图2页 CN 115328647 A 2022.11.11 CN 115328647 A 1.一种基于任务队列的计算密集 服务弹性伸缩方法， 其特 征在于， 包括以下步骤： (S101)将可独立执行的计算任务存储在任务队列中， 每个任务给定一个最晚允许完成 时间， 队列中按照最晚允许完成时间排序； (S102)记录历史任务耗时、 任务类型与任务耗时影响因素的量化值， 形成任务耗时估 计映射； (S103)利用任务耗时估计映射估计当前实例正在执行和队列中的所有任务的任务耗 时； (S104)根据当前所有实例的上个任务完成时间和所有任务耗时， 预测所有任务的预计 完成时间； (S105)增减实例并预测任务准时完成情况， 直到获取到使得所有队列中任务准时完成 的最小实例数； (S106)按照最小实例数增减实例。 2.根据权利要求1所述的一种基于任务队列的计算密集服务弹性伸缩方法， 其特征在 于， 所述步骤(S102)中任务耗时估计映射的形成方式为不同类型的计算任务分别多 元线性 回归。 3.根据权利要求1所述的一种基于任务队列的计算密集服务弹性伸缩方法， 其特征在 于， 所述步骤(S105)中， 如果在预测存在预计完成时间晚于最晚允许完成时间的任务， 循环 执行增加一个实例再次预测， 直到任务队列中所有任务的预计完成时间均早于最晚允许完 成时间， 取定最小实例数为循环退出时的实例数； 否则循环执行减少一个实例再次预测， 直 到存在预计完成时间晚于最晚允许完成时间的任务， 取定最小实例数为循环 退出时的实例 数减一。权　利　要　求　书 1/1 页 2 CN 115328647 A 2基于任务队列的计算密集服务弹性伸缩方 法 技术领域 [0001]本发明涉及 一种计算机资源弹性伸缩方法， 特别涉及一种基于任务队列的计算密 集服务弹性伸缩方法。 背景技术 [0002]为了在尽量节约计算机资源的条件下满 足业务需求， 计算机系统或计算机集群需 要根据一定的策略自动调整用于业务的服务 实例数量， 称为 弹性伸缩。 在业务需求增长时， 弹性伸缩自动增加服务 实例， 分配更多的计算资源， 以满足处理业务需求的要求； 在业务需 求下降时， 弹性伸缩自动减少服务 实例， 释放占用的计算资源给其他应用， 以实现资源的高 效利用。 现有的弹性伸缩方法包括： 1)基于告警的方法， 即持续监控服务实例的CPU等资源 的占用率， 若占用率持续过高则增加服务 实例， 反之若持续过少 则减少服务 实例； 2)基于计 划的方法， 分析和预测业 务高峰期， 在高峰期增 加服务实例， 其 他时间减少服 务实例。 [0003]IO密集型的服务能够使用上述两种弹性伸 缩方法， 如Web服务。 在这类服务中， 等 待读写占了业务处理的大部分的时间， 单个线程的CPU占比不高。 因此， 它们常采用多线程 提高CPU的利用率。 当其业务处理负荷增加时， 其CPU占用率也随之增加， 故基于告警的方法 可以通过持续监控CPU资源的占用率实现及时有效的弹性伸缩。 另一方面， Web服务逻辑简 单， 单个业务处理快， 负荷主要与用户访问量等业务数目有关， 分析估计用户访问量峰值出 现的时间与大小并运用基于计划的方法也能够实现及时有效的弹性伸缩。 [0004]但是， 计算密集型的服务无法使用上述两种弹性伸缩方法。 在如定期日志分析、 数 据挖掘、 机器学习模型训练等计算密集型的服务中， 运算占了业务处理的大部分时间， CPU 持续高占比运行， 与业务负荷无关。 因此， 基于告警的方法无法通过持续监控CPU资源的占 用率来增加或减少服务 实例。 同时， 计算密集型服务的单个业务处理时间难以估计， 因而基 于计划的方法也难以通过分析和预测业务高峰来分配服务实例 。 因此， 如何合理的进行弹 性伸缩， 是计算密集型服 务合理化分配 计算机资源的关键 。 发明内容 [0005]本发明提供一种基于任务队列的计算密集服务弹性伸缩方法， 采用预测的方法给 出满足规定业 务处理要求的最小实例数， 能够适用于上述的计算密集 服务的弹性伸缩。 [0006]为实现上述目的， 本发明拟定技 术方案如下: [0007]基于任务队列的计算密集 服务弹性伸缩方法， 包括以下步骤: [0008](S101)将可独立执行的计算任务存储在任务队列中， 每个任务给定一个最晚允许 完成时间， 队列中按照最晚允许完成时间排序； [0009](S102)记录历史任务耗时、 任务类型与任务耗时影响因素的量化值， 形成任务耗 时估计映射； [0010](S103)利用任务耗时估计映射估计当前实例正在执行和队列中的所有任务的任 务耗时；说　明　书 1/4 页 3 CN 115328647 A 3