更新时间:2024-10-11 GMT+08:00

配置队列

操作场景

用户根据业务需求,可以在MRS修改指定租户的队列配置。

前提条件

  • 已添加关联Yarn并分配了动态资源的租户。
  • 已完成IAM用户同步(在集群详情页的“概览”页签,单击“IAM用户同步”右侧的“同步”进行IAM用户同步)。

操作步骤

  1. 在集群详情页,单击“租户管理”。
  2. 单击“队列配置”页签。
  3. 在租户队列表格,指定租户队列的“操作”列,单击“修改”

    • 在“租户管理”页签左侧租户列表,单击目标的租户,切换到“资源”页签,单击也能打开修改队列配置页面。
    • 一个队列只能绑定一个非default资源池。

    MRS 3.x之前版本:

    表1 队列配置参数

    参数名

    描述

    最大应用数量

    表示最大应用程序数量。取值范围从“1”到“2147483647”。

    AM最大资源百分比

    表示集群中可用于运行application master的最大资源占比。取值范围从“0”到“1”。

    用户资源最小上限百分比 (%)

    表示用户使用的最小资源上限百分比。取值范围从“0”到“100”。

    用户资源上限因子

    表示用户使用的最大资源限制因子,与当前租户在集群中实际资源百分比相乘,可计算出用户使用的最大资源百分比。最小值为“0”。

    状态

    表示资源计划当前的状态,“运行”为运行状态,“停止”为停止状态。

    默认资源池

    表示队列使用的资源池。默认为“default”,如果需要修改为其他资源,需要先配置队列容量,请参见配置资源池的队列容量策略

    MRS 3.x及之后版本:

    表2 队列配置参数

    参数名

    描述

    AM最多占有资源(%)

    表示当前队列内所有Application Master所占的最大资源百分比。

    每个YARN容器最多分配核数

    表示当前队列内单个YARN容器可分配的最多核数,默认为-1,表示取值范围内不限制。

    每个YARN容器最大分配内存(MB)

    表示当前队列内单个YARN容器可分配的最大内存,默认为-1,表示取值范围内不限制。

    最多运行任务数

    表示当前队列最多同时可执行任务的数目,默认为-1,表示取值范围内不限制(为空意义相同),为0表示不可执行任务。取值范围为-1~2147483647。

    每个用户最多运行任务数

    表示每个用户在当前队列中最多同时可执行任务的数目,默认为-1,表示取值范围内不限制(为空意义相同),为0表示不可执行任务。取值范围为-1~2147483647。

    最多挂起任务数

    表示当前队列最多同时可挂起任务的数目,默认为-1,表示取值范围内不限制(为空意义相同),为0表示不可挂起任务。取值范围为-1~2147483647。

    资源分配规则

    表示单个用户任务间的资源分配规则,包括FIFO和FAIR。

    一个用户若在当前队列上提交了多个任务,FIFO规则代表一个任务完成后再执行其他任务,按顺序执行。FAIR规则代表各个任务同时获取到资源并平均分配资源。

    默认资源标签

    表示在指定资源标签(Label)的节点上执行任务。

    说明:

    如果需要使用新的资源池,需要修改默认标签为新的资源池标签。

    Active状态

    • ACTIVE表示当前队列可接受并执行任务。
    • INACTIVE表示当前队列可接受但不执行任务,若提交任务,任务将处于挂起状态。

    Open状态

    • OPEN表示当前队列处于打开状态。
    • CLOSED表示当前队列处于关闭状态,若提交任务,任务直接会被拒绝。