添加MRS租户
当租户需要根据业务需求指定资源使用情况时,可以在MRS创建租户。
前提条件
- 根据业务需求规划租户的名称,不得与当前集群中已有的角色或者Yarn队列重名。
- 如果租户需要使用存储资源,则提前根据业务需要规划好存储路径,分配的完整存储路径在HDFS目录中不存在。
- 规划当前租户可分配的资源,确保每一级别父租户下,直接子租户/子租户的资源百分比之和不能超过100%。
- 如果通过MRS管理控制台操作,需要已完成IAM用户同步(在集群详情页的“概览”页签,单击“IAM用户同步”右侧的“同步”进行IAM用户同步)。
- 如果通过Manager界面操作,需要已登录MRS集群Manager界面,详情请参考访问MRS集群Manager。
通过管理控制台添加租户
- 登录MRS管理控制台。
- 选择“现有集群”,选中一个运行中的集群并单击集群名称,进入集群信息页面。
- 在集群详情页,单击“租户管理”。
- 单击“添加租户”,打开添加租户的配置页面,根据集群版本参见对应表格内容为租户配置属性。
表1 租户参数一览表(MRS 3.x版本) 参数名
描述
名称
- 指定当前租户的名称,可包含数字、字母或下划线(_)。
- 根据业务需求规划租户的名称,不得与当前集群中已有的角色、HDFS目录或者Yarn队列重名。
租户类型
指定租户是否是一个叶子租户。
部分版本该参数名为“租户资源类型”,具体以实际为准。
- 选择“叶子租户”:当前租户为叶子租户,不支持添加子租户。
- 选择“非叶子租户”:当前租户为非叶子租户,支持添加子租户。
说明:如果关联服务需要选择“ClickHouse”或“Doris”,租户类型只能选择“叶子租户”。
计算资源
为当前租户选择动态计算资源。
- 选择“Yarn”时,系统自动在Yarn中以租户名称创建任务队列。
- 如果是叶子租户,叶子租户可直接提交到任务队列中。
- 如果是非叶子租户,非叶子租户不能直接将任务提交到队列中。但是,Yarn会额外为非叶子租户增加一个任务队列(隐含),队列默认命名为“default”,用于统计当前租户剩余的资源容量,实际任务不会分配在此队列中运行。
- 不选择“Yarn”时,系统不会自动创建任务队列。
配置模式
计算资源选择“Yarn”时,“配置模式”可选“基础”或“高级”。
- 基础:需配置“默认资源池容量 (%)”,配置当前租户在“default”资源池中使用的计算资源百分比。
- 高级:需配置如下参数。
- 权重:资源分配权重,取值范围从0到100。租户资源占比=租户权重/同级别租户总权重之和。
- 最小资源:保证租户能获得的资源(有抢占支持)。取值可以是父租户资源的百分比或绝对值。当租户作业量比较少时,资源会自动借给其他租户,当租户能使用的资源不满足最小资源时,可以通过抢占来要回之前借出的资源。
- 最大资源:租户最多能使用的资源,租户不能得到比最大资源设定更多的资源。取值可以是父租户资源的百分比或绝对值。
- 预留资源:租户资源预留资源。即使租户资源内没有作业,预留的资源也不能给别的租户资源使用。取值可以是父租户资源的百分比或绝对值。
储存资源
为当前租户选择存储资源。
- 选择“HDFS”时系统将自动在“/tenant”目录中以租户名称创建文件夹。第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。
- 不选择“HDFS”时,系统不会在HDFS中创建存储目录。
文件/目录数上限
HDFS中创建存储文件/目录数上限。“储存资源”选择“HDFS”时配置。
存储空间配额
配置当前租户使用的HDFS存储空间配额。“储存资源”选择“HDFS”时配置。
- 最小值为“1”,单位为MB或GB。
- 此参数值表示租户可使用的HDFS存储空间上限,不代表一定使用了这么多空间。
- 如果参数值大于HDFS物理磁盘大小,实际最多使用全部的HDFS物理磁盘空间。
说明:为了保证数据的可靠性,HDFS中每保存一个文件则自动生成1个备份文件,即默认共2个副本。HDFS存储空间表示所有副本文件在HDFS中占用的磁盘空间大小总和。例如“存储空间配额”设置为“500MB”,则实际只能保存约500/2=250MB大小的文件。
存储路径
配置租户在HDFS中的存储目录,用于存放租户资源数据。
- 系统默认将自动在“/tenant”目录中以租户名称创建文件夹。例如租户“ta1”,默认HDFS存储目录为“/tenant/ta1”。
- 第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。支持自定义存储路径。
服务
配置当前租户关联使用的其他服务资源(如果该参数置灰表示当前集群无支持“关联服务”操作的组件)。
单击“关联服务”,在“服务”选择服务名称。在“关联类型”选择“独占”表示独占服务资源,选择“共享”表示共享服务资源。
描述
配置当前租户的描述信息。
表2 租户参数一览表(MRS 2.x及之前版本) 参数名
描述
名称
- 指定当前租户的名称,可包含数字、字母或下划线(_)。
- 根据业务需求规划租户的名称,不得与当前集群中已有的角色、HDFS目录或者Yarn队列重名。
租户类型
指定租户是否是一个叶子租户:
- 选择“叶子租户”:当前租户为叶子租户,不支持添加子租户。
- 选择“非叶子租户”:当前租户为非叶子租户,支持添加子租户。
计算资源
为当前租户选择动态计算资源。(部分版本该参数名称为“动态资源”,请以实际为准。)
- 选择“Yarn”时,系统自动在Yarn中以租户名称创建任务队列。
- 如果是叶子租户,叶子租户可直接提交到任务队列中。
- 如果是非叶子租户,非叶子租户不能直接将任务提交到队列中。但是,Yarn会额外为非叶子租户增加一个任务队列(隐含),队列默认命名为“default”,用于统计当前租户剩余的资源容量,实际任务不会分配在此队列中运行。
- 不选择“Yarn”时,系统不会自动创建任务队列。
默认资源池容量 (%)
配置当前租户在“default”资源池中使用的计算资源百分比。“计算资源”选择“Yarn”时配置。
默认资源池最大容量 (%)
配置当前租户在“default”资源池中使用的最大计算资源百分比。“计算资源”选择“Yarn”时配置。
储存资源
为当前租户选择存储资源。
- 选择“HDFS”时系统将自动在“/tenant”目录中以租户名称创建文件夹。第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。
- 不选择“HDFS”时,系统不会在HDFS中创建存储目录。
存储空间配额 (MB)
配置当前租户使用的HDFS存储空间配额。“储存资源”选择“HDFS”时配置。
- 最小值为“1”,单位为MB或GB。
- 此参数值表示租户可使用的HDFS存储空间上限,不代表一定使用了这么多空间。
- 如果参数值大于HDFS物理磁盘大小,实际最多使用全部的HDFS物理磁盘空间。
说明:为了保证数据的可靠性,HDFS中每保存一个文件则自动生成1个备份文件,即默认共2个副本。HDFS存储空间表示所有副本文件在HDFS中占用的磁盘空间大小总和。例如“存储空间配额”设置为“500MB”,则实际只能保存约500/2=250MB大小的文件。
存储路径
配置租户在HDFS中的存储目录。
- 系统默认将自动在“/tenant”目录中以租户名称创建文件夹。例如租户“ta1”,默认HDFS存储目录为“/tenant/ta1”。
- 第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。支持自定义存储路径。
服务
配置当前租户关联使用的其他服务资源(如果该参数置灰表示当前集群无支持“关联服务”操作的组件)。
单击“关联服务”,在“服务”选择服务名称。在“关联类型”选择“独占”表示独占服务资源,选择“共享”表示共享服务资源。
描述
配置当前租户的描述信息。
- 单击“确定”保存,等待界面提示租户创建成功。
在左侧租户列表,单击已添加租户的名称,可以查看当前租户的基本信息、资源配额、图表等信息。
- 创建租户时将自动创建租户对应的角色、计算资源和存储资源。
- 新角色包含计算资源和存储资源的权限。此角色及其权限由系统自动控制,不支持通过“角色管理”进行手动管理。
- 使用此租户时,请创建一个系统用户,并分配Manager_tenant角色以及租户对应的角色。具体操作请参见为MRS集群用户绑定租户。
通过Manager添加租户(MRS 3.x及之后版本)
- 登录Manager,单击“租户资源”。
- 单击,打开添加租户的配置页面,参见表3为租户配置属性。
表3 租户参数一览表(MRS 3.x版本) 参数名
描述
名称
- 指定当前租户的名称,可包含数字、字母或下划线(_)。
- 根据业务需求规划租户的名称,不得与当前集群中已有的角色、HDFS目录或者Yarn队列重名。
租户类型
指定租户是否是一个叶子租户。
部分版本该参数名为“租户资源类型”,具体以实际为准。
- 选择“叶子租户”:当前租户为叶子租户,不支持添加子租户。
- 选择“非叶子租户”:当前租户为非叶子租户,支持添加子租户。
说明:如果关联服务需要选择“ClickHouse”或“Doris”,租户类型只能选择“叶子租户”。
计算资源
为当前租户选择动态计算资源。
- 选择“Yarn”时,系统自动在Yarn中以租户名称创建任务队列。
- 如果是叶子租户,叶子租户可直接提交到任务队列中。
- 如果是非叶子租户,非叶子租户不能直接将任务提交到队列中。但是,Yarn会额外为非叶子租户增加一个任务队列(隐含),队列默认命名为“default”,用于统计当前租户剩余的资源容量,实际任务不会分配在此队列中运行。
- 不选择“Yarn”时,系统不会自动创建任务队列。
配置模式
计算资源选择“Yarn”时,“配置模式”可选“基础”或“高级”。
- 基础:需配置“默认资源池容量 (%)”,配置当前租户在“default”资源池中使用的计算资源百分比。
- 高级:需配置如下参数。
- 权重:资源分配权重,取值范围从0到100。租户资源占比=租户权重/同级别租户总权重之和。
- 最小资源:保证租户能获得的资源(有抢占支持)。取值可以是父租户资源的百分比或绝对值。当租户作业量比较少时,资源会自动借给其他租户,当租户能使用的资源不满足最小资源时,可以通过抢占来要回之前借出的资源。
- 最大资源:租户最多能使用的资源,租户不能得到比最大资源设定更多的资源。取值可以是父租户资源的百分比或绝对值。
- 预留资源:租户资源预留资源。即使租户资源内没有作业,预留的资源也不能给别的租户资源使用。取值可以是父租户资源的百分比或绝对值。
储存资源
为当前租户选择存储资源。
- 选择“HDFS”时系统将自动在“/tenant”目录中以租户名称创建文件夹。第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。
- 不选择“HDFS”时,系统不会在HDFS中创建存储目录。
文件/目录数上限
HDFS中创建存储文件/目录数上限。“储存资源”选择“HDFS”时配置。
存储空间配额
配置当前租户使用的HDFS存储空间配额。“储存资源”选择“HDFS”时配置。
- 最小值为“1”,单位为MB或GB。
- 此参数值表示租户可使用的HDFS存储空间上限,不代表一定使用了这么多空间。
- 如果参数值大于HDFS物理磁盘大小,实际最多使用全部的HDFS物理磁盘空间。
说明:为了保证数据的可靠性,HDFS中每保存一个文件则自动生成1个备份文件,即默认共2个副本。HDFS存储空间表示所有副本文件在HDFS中占用的磁盘空间大小总和。例如“存储空间配额”设置为“500MB”,则实际只能保存约500/2=250MB大小的文件。
存储路径
配置租户在HDFS中的存储目录,用于存放租户资源数据。
- 系统默认将自动在“/tenant”目录中以租户名称创建文件夹。例如租户“ta1”,默认HDFS存储目录为“/tenant/ta1”。
- 第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。支持自定义存储路径。
服务
配置当前租户关联使用的其他服务资源(如果该参数置灰表示当前集群无支持“关联服务”操作的组件)。
单击“关联服务”,在“服务”选择服务名称。在“关联类型”选择“独占”表示独占服务资源,选择“共享”表示共享服务资源。
描述
配置当前租户的描述信息。
创建租户时将自动创建租户对应的角色、计算资源和存储资源。
- 新角色包含计算资源和存储资源的权限。此角色及其权限由系统自动控制,不支持通过“系统 > 权限> 角色”进行手动管理,角色名称为“租户名称_集群ID”。首个集群的集群ID默认不显示。
- 使用此租户时,请创建一个系统用户,并绑定租户对应的角色。具体操作请参见为MRS集群用户绑定租户。
- 创建租户时系统会自动创建一个Yarn任务队列,并自动以租户名称命名该队列。如果已经存在同名队列,新队列命名为“租户名称-N”。“N”表示从1开始的自然数,存在同名队列的时候N会自动累加以区别已有队列。例如“saletenant”、“saletenant-1”和“saletenant-2”。
如果需要关联服务,请单击“关联服务”,参考如下指导配置当前租户关联使用的其他服务资源,单击“确定”。- “服务”选择“HBase”,在“关联类型”可以选择“独占”或者“共享”。
- “独占”表示该租户独占服务资源,其他租户不能再关联此服务。
- “共享”表示共享服务资源,可与其他租户共享使用此服务资源。
- MRS 3.2.0及之后版本:“服务”选择“ClickHouse”。
- “关联类型”:当“服务”选择“ClickHouse”时,关联类型只支持“共享”。
- “关联逻辑集群”:若ClickHouse没有开启逻辑集群,则默认关联default_cluster,若已经开启逻辑集群,则按需选择需要关联的逻辑集群。
- “CPU优先级”:CPU优先级取值范围为-20~19,该值关联OS的NICE值,取值越小,CPU优先级越高。
- “内存”:内存限制为百分比,如该值设置为80,则当前租户可使用的内存总额为:服务可使用内存 * 80%。
- MRS 3.3.1及之后版本:“服务”选择“Doris”。
- “关联类型”:默认“共享”。
- “CPU配额权重”:相对值,取值范围为1~100,该值越大,表示单位时间内CPU占用越多。
- “内存限额占比”:百分比,如该值设置为“20”,则当前租户在各个BE实例节点的可用内存为:物理内存 * mem_limit(BE内存限制百分比)* 20%。
- “并发数”:表示单个FE实例可运行查询任务的并发数上限。
- “队列长度”:表示超出并发数,在队列中等待执行的查询任务数上限。
- “队列等待时长(毫秒)”:表示在队列中,任务的最长等待时间,单位为毫秒。
- “开启内存软隔离”:表示租户是否可以超量使用内存资源。如果开启,系统有空闲内存资源时,则租户在超出内存限制后,可以继续使用系统内存,只有资源紧张时,才取消组内内存占用最大的若干任务。
- 创建租户时,租户可以关联的服务资源只有HBase。为已有的租户关联服务时,可以关联的服务资源包含:HDFS、HBase和Yarn。
- 若为已有的租户关联服务资源:在租户列表单击目标租户,切换到“服务关联”页签,单击“关联服务”单独配置当前租户关联资源。
- 若为已有的租户取消关联服务资源:在租户列表单击目标的租户,切换到“服务关联”页签,单击“删除”,并勾选“我已阅读此信息并了解其影响。”,再单击“确定”删除与服务资源的关联。
- 单击“确定”,等待界面提示租户创建成功。
通过Manager添加租户(MRS 2.x及之前版本)
- 在MRS Manager,单击“租户管理”。
- 单击“添加租户”,打开添加租户的配置页面,参见以下表格内容为租户配置属性。
表4 租户参数一览表(MRS 2.x及之前版本) 参数名
描述
名称
- 指定当前租户的名称,可包含数字、字母或下划线(_)。
- 根据业务需求规划租户的名称,不得与当前集群中已有的角色、HDFS目录或者Yarn队列重名。
租户类型
指定租户是否是一个叶子租户:
- 选择“叶子租户”:当前租户为叶子租户,不支持添加子租户。
- 选择“非叶子租户”:当前租户为非叶子租户,支持添加子租户。
计算资源
为当前租户选择动态计算资源。(部分版本该参数名称为“动态资源”,请以实际为准。)
- 选择“Yarn”时,系统自动在Yarn中以租户名称创建任务队列。
- 如果是叶子租户,叶子租户可直接提交到任务队列中。
- 如果是非叶子租户,非叶子租户不能直接将任务提交到队列中。但是,Yarn会额外为非叶子租户增加一个任务队列(隐含),队列默认命名为“default”,用于统计当前租户剩余的资源容量,实际任务不会分配在此队列中运行。
- 不选择“Yarn”时,系统不会自动创建任务队列。
默认资源池容量 (%)
配置当前租户在“default”资源池中使用的计算资源百分比。“计算资源”选择“Yarn”时配置。
默认资源池最大容量 (%)
配置当前租户在“default”资源池中使用的最大计算资源百分比。“计算资源”选择“Yarn”时配置。
储存资源
为当前租户选择存储资源。
- 选择“HDFS”时系统将自动在“/tenant”目录中以租户名称创建文件夹。第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。
- 不选择“HDFS”时,系统不会在HDFS中创建存储目录。
存储空间配额 (MB)
配置当前租户使用的HDFS存储空间配额。“储存资源”选择“HDFS”时配置。
- 最小值为“1”,单位为MB或GB。
- 此参数值表示租户可使用的HDFS存储空间上限,不代表一定使用了这么多空间。
- 如果参数值大于HDFS物理磁盘大小,实际最多使用全部的HDFS物理磁盘空间。
说明:为了保证数据的可靠性,HDFS中每保存一个文件则自动生成1个备份文件,即默认共2个副本。HDFS存储空间表示所有副本文件在HDFS中占用的磁盘空间大小总和。例如“存储空间配额”设置为“500MB”,则实际只能保存约500/2=250MB大小的文件。
存储路径
配置租户在HDFS中的存储目录。
- 系统默认将自动在“/tenant”目录中以租户名称创建文件夹。例如租户“ta1”,默认HDFS存储目录为“/tenant/ta1”。
- 第一次创建租户时,系统自动在HDFS根目录创建“/tenant”目录。支持自定义存储路径。
服务
配置当前租户关联使用的其他服务资源(如果该参数置灰表示当前集群无支持“关联服务”操作的组件)。
单击“关联服务”,在“服务”选择服务名称。在“关联类型”选择“独占”表示独占服务资源,选择“共享”表示共享服务资源。
描述
配置当前租户的描述信息。
- 单击“确定”保存,等待界面提示租户创建成功。
- 创建租户时将自动创建租户对应的角色、计算资源和存储资源。
- 新角色包含计算资源和存储资源的权限。此角色及其权限由系统自动控制,不支持通过“角色管理”进行手动管理。
- 使用此租户时,请创建一个系统用户,并分配Manager_tenant角色以及租户对应的角色。具体操作请参见为MRS集群用户绑定租户。