LDMS分组管理
在LDMS进行库表注册后,可以对已注册的Hudi表分组进行托管,执行异步Compaction、Clean、Archive运维操作。
本章节指导用户在LDMS进行新增、编辑、删除分组操作。
前提条件
- 集群已安装LDMS及其所依赖的服务且运行正常。
- 创建一个具备ldmsadmin或supergroup用户组权限的用户,具体请参考LDMS用户权限管理。
- 待分组的Hudi表已在LDMS上完成注册。
新增分组
- 使用LDMS管理员用户登录FusionInsight Manager,选择“集群 > 服务 > LDMS”,进入LDMS服务页面。
- 在概览页签下的“基本信息”区域单击“LDMSServer UI”后的链接,进入LDMSServer UI页面。
- 选择“分组管理 > 新增分组”设置分组相关参数。
- 设置分组信息参数请参考表1。
- 设置资源参数请参考表2。
表2 LDMS资源参数 参数
描述
默认值
driver-cores
指定Spark作业提交的Driver核数。
2
driver-memory
指定Spark作业提交的Driver内存大小。
2 GB
executor-cores
指定Spark作业提交的Executor核数。
2
executor-memory
指定Spark作业提交的Executor内存大小。
2 GB
num-executor
指定Spark作业提交的Executor个数。
2
queue
指定作业提交时使用的资源队列。
无
首次新建分组,资源参数显示为空,如果不设置,则系统会以默认值进行设置。
- 自定义参数:
如果客户需要在任务中配置更多的自定义参数,则需打开资源参数的自定义开关进行配置,自定义参数的格式为set key1=value1;set key2=value2;set key3=value3.......
示例: set hoodie.compact.inline = true;set hoodie.compact.inline.max.delta.commits = 2;set hoodie.cleaner.commits.retained = 1;set hoodie.clean.automatic = true;set hoodie.keep.min.commits = 2;set hoodie.keep.max.commits = 3;set hoodie.archive.automatic = true;
- 选择数据库,并将需要托管的Hudi表勾选后从未分组数据表移至已分组数据表中。
- 单击“确定”完成新增分组。
新建分组后,分组的“调度状态”从“INIT”到“RUNNING”最终转为“FINISHED”,完成首次调度运行。
管理分组
- 使用LDMS管理员用户登录FusionInsight Manager,选择“集群 > 服务 > LDMS”,进入LDMS服务页面。
- 在概览页签下的“基本信息”区域单击“LDMSServer UI”后的链接,进入LDMSServer UI页面。
编辑分组
- 选择“分组管理”,在对应分组的操作列单击“编辑”,可以修改该分组信息,具体参数请参考3。
删除分组
- 选择“分组管理”,在对应分组的操作列单击“删除”,在弹窗中单击“确定”,删除分组。