文档首页/ 数据湖探索 DLI/ 用户指南/ 创建弹性资源池和队列/ 管理队列/ 设置普通队列的弹性扩缩容定时任务
更新时间:2024-09-27 GMT+08:00

设置普通队列的弹性扩缩容定时任务

弹性扩缩容定时任务使用场景

通常,用户业务繁忙的场景是有周期性的,在某个周期内,用户需要更多的计算资源来处理业务,过了这个周期,则不需要那么多资源。如果用户购买的队列规格比较小,在业务繁忙时会存在资源不足的情况;而如果购买的队列规格比较大,又可能会存在资源浪费的情况。

基于以上场景,DLI提供了队列弹性扩缩容定时任务功能。用户可以根据自己的业务周期或者使用情况,基于现有队列规格,在不同的时间或者周期内设置不同的队列大小,以满足自己的业务需求,节约成本。

本节操作仅适用于普通队列,不适用于弹性资源池队列。

使用弹性扩缩容定时任务注意事项

  • 新创建的队列需要运行作业后才可进行扩缩容。
  • 目前只支持规格为64CUs以上的队列进行定时弹性扩缩容任务,即队列最小规格为64CUs。
  • 对于每个队列,最多支持创建12个定时任务。
  • 每个定时任务开始时,弹性扩缩容的实际开始的时间有5分钟误差。建议扩容时间定时至少比实际使用队列的时间提前20分钟。
  • 每个定时任务之间需要至少有2小时的间隔。
  • 队列的定时弹性扩缩容属于耗时操作,变更所消耗的时间取决于扩缩容目标规格与当前规格的差值大小,用户在“队列管理”页面中可以查看当前队列的规格。
  • 如果当前队列有作业正在运行时,可能无法缩容到目标CU值,而是缩容到当前队列规格和目标规格中间的某个值,系统将在1小时后继续尝试进行缩容,直至下一个定时任务开始。
  • 当一个定时任务没有扩容或者缩容到目标CU值时,系统会在约15分钟后再次触发扩缩计划,直到下一个定时任务开始。

创建弹性扩缩容定时任务

  • 如果只设定扩容或者缩容,只需创建一个弹性扩缩容定时任务。设定“任务名称”“最终CUs”“执行时间”即可,具体请参考表1
  • 如果需要同时设定扩容和缩容,则需要创建两个弹性扩缩容定时任务,分别设定扩容和缩容的“任务名称”“最终CUs”“执行时间”,具体请参考表1

操作步骤如下:

  1. 在DLI管理控制台左侧,选择“资源管理 > 队列管理”
  2. 选择需要设置弹性扩缩容定时任务的队列,单击“操作”列“更多”中的“弹性扩缩容定时任务”。
  3. “弹性扩缩容定时任务”页面,单击右上角的“创建定时任务”
  4. “创建定时任务”页面,设置参数。单击“确定”。
    图1 创建定时任务
    表1 参数说明

    参数名称

    描述

    任务名称

    输入定时任务的名称。

    • 只能包含数字、英文字母和下划线,但不能是纯数字,不能以下划线开头,且不能为空。
    • 输入长度不能超过128个字符。

    激活任务

    激活队列扩缩容定时任务。默认开启。如果关闭,则系统不会触发执行当前设置的定时规格变更任务。

    有效期

    设置执行定时任务的时间段。包括“日期”和“时间”。如果没有时间段的限制,该参数值为空即可,表示永久生效,如果用户需要指定当前任务的生效时间段,可根据业务需要进行选择。

    说明:
    • “有效期”中的“开始时间”需要晚于当前的系统时间。
    • 如果只设置了扩容,在“有效期”结束之后,系统不会自动缩容,需要手动修改或设置缩容定时任务。反之亦然。即为单次执行定时扩缩容。
    • 如果同时设置了扩容和缩容,在有效期内会按照设定扩缩容,在“有效期”结束之后,将保持最后一次设定的队列规格。

    实际CUs

    队列扩容或缩容前的规格。

    最终CUs

    队列扩容或缩容后的规格。

    说明:
    • 系统默认队列最大规格为512CUs。
    • 进行定时扩缩容操作的队列最小规格为64CUs,即当“实际CUs”小于64CUs时,不能进行定时扩缩容。
    • 最终规格只能为16的倍数。

    重复规律

    选择执行定时扩缩容的周期。定时任务的“重复规律”支持按周为周期进行调度。
    • 默认不选,表示“不重复”,即只在“执行时间”执行一次;
    • 如果全选,表示该计划每天都会执行;
    • 如果选择部分,则选择规律的计划在对应的时间每周都会被执行一次。
    说明:
    • 如果只是单次执行扩容或者缩容,无需选择“执行周期”
    • 如果同时设置了扩缩容,可根据需要选择“执行周期”,还可与“有效期”进行配合使用。

    执行时间

    执行定时扩容或者缩容的时间。

    • 每个定时任务开始时,弹性扩缩容的实际开始的时间有5分钟误差。建议扩容时间定时至少比实际使用队列的时间提前20分钟。
    • 每个定时任务之间需要至少有2小时的间隔。

    定时任务创建后,可以在“弹性扩缩容定时任务”页面查看当前队列的规格变化情况,以及计划最近一次的执行时间。

    或者在“队列管理”页面,查看“规格”大小是否改变来判断是否扩缩容成功。

    或者在“作业管理”页面,查看“SCALE_QUEUE”类型作业的状态,如果作业状态为“规格变更中”,表示队列正在扩缩容中。

修改弹性扩缩容定时任务

如果设定的定时任务不再满足业务需求,可以在“弹性扩缩容定时任务”页面修改弹性扩缩容定时任务。

  1. 在DLI管理控制台左侧,选择“资源管理 > 队列管理”
  2. 选择需要设置弹性扩缩容定时任务的队列,单击“操作”列“更多”中的“弹性扩缩容定时任务”。
  3. “弹性扩缩容定时任务”页面,单击操作列的“修改”,根据提示修改弹性扩缩容定时任务。

删除弹性扩缩容定时任务

如果不再需要定时修改队列规格,可以在“弹性扩缩容定时任务”页面删除弹性扩缩容定时任务。

  1. 在DLI管理控制台左侧,选择“资源管理 > 队列管理”
  2. 选择需要设置弹性扩缩容定时任务的队列,单击“操作”列“更多”中的“弹性扩缩容定时任务”。
  3. “弹性扩缩容定时任务”页面,单击操作列的“删除”,根据提示删除弹性扩缩容定时任务。