更新时间:2022-12-14 GMT+08:00

创建HetuEngine计算实例

操作场景

本章节指导用户新创建HetuEngine计算实例。计算实例创建成功后,停止集群前需手动停止计算实例;重启集群后,要使用集群中的计算实例,需要手动启动计算实例。

前提条件

  • 已创建用于访问HetuEngine WebUI界面的用户,用户创建具体操作请参见创建HetuEngine用户
  • 已在待操作集群创建所需租户。请确保修改HetuEngine计算实例配置时,对应的租户有足够的内存和CPU资源。

    创建HetuEngine计算实例时必须使用“叶子租户”类型的租户,只有叶子租户的队列才能提交Yarn任务。

操作步骤

  1. 使用用于访问HetuEngine WebUI界面的用户登录FusionInsight Manager,选择“集群 > 服务 > HetuEngine”,进入HetuEngine服务页面。
  2. 在概览页签下的“基本信息”区域单击“HSConsole WebUI”后的链接,进入HSConsole界面。
  3. 在实例列表上方单击“创建配置”,在“配置实例”弹框内填写参数。

    1. 配置“基本配置”,参数配置请参考表1
      表1 基本配置说明

      参数

      描述

      取值样例

      所属资源队列

      实例所属资源队列,一个资源队列下只能创建一个计算实例。

      在“所属资源队列”下拉列表中选取。

      实例部署超时时间(秒)

      通过Yarn Service部署启动计算实例的超时时间。从启动计算实例开始计时,当超过该时间后,如果计算实例仍在“创建中”或“启动中”,则该计算实例状态会显示为“错误”,同时会停止Yarn上正在创建或启动中的计算实例。

      300

      取值范围:1~2147483647

    2. 配置“Coordinator容器资源配置”,参数配置请参考表2
      表2 Coordinator容器资源配置参数说明

      参数

      描述

      取值样例

      容器内存(MB)

      Yarn分配给计算实例Coordinator的单个Container的内存大小,单位:MB。

      默认值:5120

      取值范围:1~2147483647

      vcore

      Yarn分配给计算实例Coordinator的单个Container的CPU(vcore)数量。

      默认值:1

      取值范围:1~2147483647

      数量

      Yarn分配给计算实例Coordinator的Container的数量。

      默认值:2

      取值范围:1~3

      JVM

      登录FusionInsight Manager,选择“集群 > 服务 > HetuEngine > 配置”,在“全部配置”页签搜索“extraJavaOptions”,属于“coordinator.jvm.config”参数文件内该参数的值即为JVM的参数取值。

      -

    3. 配置“Worker容器资源配置”,参数配置请参考表3
      表3 Worker容器资源配置参数说明

      参数

      描述

      取值样例

      容器内存(MB)

      Yarn分配给计算实例Worker的单个Container的内存大小,单位:MB。

      默认值:10240

      取值范围:1~2147483647

      vcore

      Yarn分配给计算实例Worker的单个Container的CPU(vCore)数量。

      默认值:1

      取值范围:1~2147483647

      数量

      Yarn分配给计算实例Worker的Container的数量。

      默认值:2

      取值范围:1~256

      JVM

      登录FusionInsight Manager,选择“集群 > 服务 > HetuEngine > 配置”,在“全部配置”页签搜索“extraJavaOptions”,属于“worker.jvm.config”参数文件内该参数的值即为JVM的参数取值。

      -

    4. 配置“高级配置”参数,参数配置请参考表4
      表4 高级配置参数说明

      参数

      描述

      取值样例

      查询内存占比

      节点查询内存占jvm内存的比例,默认值0,当参数等于0时计算功能关闭。

      0

      是否开启动态伸缩

      若开启动态伸缩,可以在不重启实例的情况下,增加或者减少worker数量;开启后可能会影响实例性能。开启动态伸缩参数介绍见调整worker节点数量章节

      OFF

    5. 配置“自定义配置”参数。在“高级配置 > 自定义配置”中,用户可以添加自定义参数到指定的参数文件中。单击“参数文件”下拉列表选择指定的参数文件:
      • 单击“增加”可以增加自定义配置参数。
      • 单击“删除”可以删除已增加的自定义配置参数。
      • “resource-groups.json”只在coordinator的自定义配置中生效。资源组配置参数请参考表5
        表5 资源组配置参数说明

        参数

        描述

        取值样例

        resourcegroups

        集群的资源管理组配置,参数文件下拉列表要选择“resource-groups.json”

        {
        "rootGroups": [{
        "name": "global",
        "softMemoryLimit": "100%",
        "hardConcurrencyLimit": 1000,
        "maxQueued": 10000
        }],
        "selectors": [{
        "group": "global"
        }]
        }

      对于“coordinator.config.properties”、“worker.config.properties”、“log.properties”和“resource-groups.json”参数文件,用户配置自定义参数后,如果该自定义参数名称在指定的参数文件中已经存在,那么会使用自定义参数值替换参数文件中原有参数的值。如果不存在,则添加自定义参数到指定的参数文件中。

    6. 确定配置完成后是否立即启动实例:
      • 勾选“立即启动”,配置完成后立即启动实例。
      • 不勾选“立即启动”,配置完成后需手动启动实例。

  4. 单击“确定”,等待实例配置完成。