计算
弹性云服务器 ECS
Flexus云服务
裸金属服务器 BMS
弹性伸缩 AS
镜像服务 IMS
专属主机 DeH
函数工作流 FunctionGraph
云手机服务器 CPH
Huawei Cloud EulerOS
网络
虚拟私有云 VPC
弹性公网IP EIP
虚拟专用网络 VPN
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
VPC终端节点 VPCEP
云连接 CC
企业路由器 ER
企业交换机 ESW
全球加速 GA
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
边缘安全 EdgeSec
威胁检测服务 MTD
CDN与智能边缘
内容分发网络 CDN
CloudPond云服务
智能边缘云 IEC
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
迁移中心 MGC
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
云搜索服务 CSS
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
数据治理中心 DataArts Studio
数据可视化 DLV
数据湖工厂 DLF
湖仓构建 LakeFormation
企业应用
云桌面 Workspace
应用与数据集成平台 ROMA Connect
云解析服务 DNS
专属云
专属计算集群 DCC
IoT物联网
IoT物联网
设备接入 IoTDA
智能边缘平台 IEF
用户服务
账号中心
费用中心
成本中心
资源中心
企业管理
工单管理
国际站常见问题
ICP备案
我的凭证
支持计划
客户运营能力
合作伙伴支持计划
专业服务
区块链
区块链服务 BCS
Web3节点引擎服务 NES
解决方案
SAP
高性能计算 HPC
视频
视频直播 Live
视频点播 VOD
媒体处理 MPC
实时音视频 SparkRTC
数字内容生产线 MetaStudio
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
存储容灾服务 SDRS
高性能弹性文件服务 SFS Turbo
弹性文件服务 SFS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属分布式存储服务 DSS
容器
云容器引擎 CCE
容器镜像服务 SWR
应用服务网格 ASM
华为云UCS
云容器实例 CCI
管理与监管
云监控服务 CES
统一身份认证服务 IAM
资源编排服务 RFS
云审计服务 CTS
标签管理服务 TMS
云日志服务 LTS
配置审计 Config
资源访问管理 RAM
消息通知服务 SMN
应用运维管理 AOM
应用性能管理 APM
组织 Organizations
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
应用身份管理服务 OneAccess
数据库
云数据库 RDS
文档数据库服务 DDS
数据管理服务 DAS
数据复制服务 DRS
云数据库 GeminiDB
云数据库 GaussDB
分布式数据库中间件 DDM
数据库和应用迁移 UGO
云数据库 TaurusDB
人工智能
人脸识别服务 FRS
图引擎服务 GES
图像识别 Image
内容审核 Moderation
文字识别 OCR
AI开发平台ModelArts
图像搜索 ImageSearch
对话机器人服务 CBS
华为HiLens
视频智能分析服务 VIAS
语音交互服务 SIS
应用中间件
分布式缓存服务 DCS
API网关 APIG
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
多活高可用服务 MAS
事件网格 EG
企业协同
华为云会议 Meeting
云通信
消息&短信 MSGSMS
云生态
合作伙伴中心
云商店
开发者工具
SDK开发指南
API签名指南
Terraform
华为云命令行工具服务 KooCLI
其他
产品价格详情
系统权限
管理控制台
客户关联华为云合作伙伴须知
消息中心
公共问题
开发与运维
应用管理与运维平台 ServiceStage
软件开发生产线 CodeArts
需求管理 CodeArts Req
部署 CodeArts Deploy
性能测试 CodeArts PerfTest
编译构建 CodeArts Build
流水线 CodeArts Pipeline
制品仓库 CodeArts Artifact
测试计划 CodeArts TestPlan
代码检查 CodeArts Check
代码托管 CodeArts Repo
云应用引擎 CAE
开天aPaaS
云消息服务 KooMessage
云手机服务 KooPhone
云空间服务 KooDrive

创建弹性资源池并添加队列

更新时间:2025-02-17 GMT+08:00

弹性资源池为DLI作业运行提供所需的计算资源(CPU和内存),用于灵活应对业务对计算资源变化的需求。

创建弹性资源池后,您可以在弹性资源池中创建多个队列,队列关联到具体的作业和数据处理任务,是资源池中资源被实际使用和分配的基本单元,即队列是执行作业所需的具体的计算资源。

同一弹性资源池中,队列之间的计算资源支持共享。 通过合理设置队列的计算资源分配策略,可以提高计算资源利用率。本章节介绍创建弹性资源池并添加队列的操作步骤。

说明:

DLI弹性资源池之间为物理集群隔离,同一个弹性资源池中的队列之间为逻辑隔离。

建议您对测试业务场景和生产业务场景分别创建弹性资源池,通过资源物理隔离的方式,保障资源管理的独立性和安全性。

弹性资源池约束与限制

表1 弹性资源池约束限制

限制项

说明

资源规格

  • 当前弹性资源池最大的计算资源 32000CUs。
  • 弹性资源池中可创建队列的最小CU:
    • 通用队列:4CUs
    • SQL队列:Spark SQL队列:8CUs;HetuEngine SQL队列:96CUs

弹性资源池计费模式

  • 弹性资源池支持按需和包年包月的购买方式。
  • 不支持切换弹性资源池的计费模式。
  • 当前仅支持包年包月计费模式的弹性资源池进行规格变更。
  • 按需计费的弹性资源池默认勾选专属资源模式,自创建起按自然小时收费。

管理弹性资源池

  • 弹性资源池不支持切换区域。
  • Flink 1.10及其以上版本的作业支持在弹性资源池运行。
  • 弹性资源池网段设置后不支持更改。
  • 仅支持查看30天以内的弹性资源池扩缩容历史。
  • 弹性资源池无法直接访问公网。

弹性资源池关联队列

  • 弹性资源池关联队列:
    • 仅支持关联按需计费模式的队列(包括专属队列)。
    • 队列和弹性资源池状态正常,资源未被冻结。

弹性资源池扩缩容

  • 弹性资源池CU设置、弹性资源池中添加/删除队列、修改弹性资源池中队列的扩缩容策略、系统自动触发弹性资源池扩缩容时都会引起弹性资源池CU的变化,部分情况下系统无法保证按计划扩容/缩容至目标CUs:
    • 弹性资源池扩容时,可能会由于物理资源不足导致弹性资源池无法扩容到设定的目标大小。
    • 弹性资源池缩容时,系统不保证将队列资源完全缩容到设定的目标大小。

      在执行缩容任务时,系统会先检查资源使用情况,判断是否存在缩容空间,如果现有资源无法按照最小缩容步长执行缩容任务,则弹性资源池可能缩容不成功,或缩容一部分规格的情况。

      因资源规格不同可能有不同的缩容步长,通常是16CUs、32CUs、48CUs、64CUs等。

      示例:弹性资源池规格为192CUs,资源池中的队列执行作业占用了68CUs,计划缩容至64CUs。

      执行缩容任务时,系统判断剩余124CUs,按64CUs的缩容步长执行缩容任务,剩余60CUs资源无法继续缩容,因此弹性资源池执行缩容任务后规格为128CUs。

创建弹性资源池

  1. 在左侧导航栏单击“资源管理 > 弹性资源池”,可进入弹性资源池管理页面。
  2. 在弹性资源池管理界面,单击界面右上角的“购买弹性资源池”。
  3. 在“购买弹性资源池”界面,填写具体的弹性资源池参数,具体参数填写参考如下。

    表2 参数说明

    参数名称

    描述

    区域

    选择所在的区域。不同区域的云服务之间内网互不相通;请就近选择靠近您业务的区域,可减少网络时延,提高访问速度。

    项目

    每个区域默认对应一个项目,这个项目由系统预置。

    名称

    弹性资源池的具体名称。

    • 名称只能包含数字、英文字母和下划线,但不能是纯数字,且不能以下划线或数字开头。
    • 输入长度不能超过128个字符。
    说明:

    弹性资源池名称不区分大小写,系统会自动转换为小写。

    类型

    • 基础版:提供16-64CUs规格的资源
      • 适用于对资源消耗不高、对资源高可靠性和高可用性要求不高的测试场景。
      • 不支持高可靠与高可用。
      • 不支持设置队列属性和作业优先级。
      • 不支持对接Notebook实例。
    • 标准版:提供64CUs及以上规格的资源

      具备强大的计算能力、高可用性、及灵活的资源管理能力,适用于大规模计算任务场景和有长期资源规划需求的业务场景。

    CU范围

    弹性资源池最大最小CU范围。

    CU设置主要是为了控制弹性资源池扩缩容的最大最小CU范围,避免无限制的资源扩容风险。

    “CU范围”参数中,左边为最小CU,右边为最大CU,根据情况分别设置。

    • 弹性资源池中所有队列的最小CU数之和需要小于等于弹性资源池的最小CU数。
    • 弹性资源池中任意一个队列的最大CU必须小于等于弹性资源池的最大CU。

    弹性资源池至少可以满足弹性资源池中所有队列按最小CU运行,尽量满足队列按最大CU运行。

    弹性资源池的规格(“规格”即“包周期CU”)等于创建时的最小CU,是首次创建时分配的资源数。即弹性资源池首次创建时,实际CUs=规格=最小CU。

    描述

    创建的弹性资源池的描述信息。

    网段

    规划弹性资源池所属的网段。如需使用DLI增强型跨源,弹性资源池网段与数据源网段不能重合。弹性资源池网段设置后不支持更改

    建议使用网段:

    10.0.0.0~10.255.0.0/16~19

    172.16.0.0~172.31.0.0/16~19

    192.168.0.0~192.168.0.0/16~19

    企业项目

    如果所建弹性资源池属于企业项目,可选择对应的企业项目。

    企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。

    关于如何设置企业项目请参考《企业管理用户指南》。

    说明:

    只有开通了企业管理服务的用户才显示该参数。

    标签

    使用标签标识云资源。包括标签键和标签值。如果您需要使用同一标签标识多种云资源,即所有服务均可在标签输入框下拉选择同一标签,建议在标签管理服务(TMS)中创建预定义标签。

    如您的组织已经设定DLI的相关标签策略,则需按照标签策略规则为资源添加标签。标签如果不符合标签策略的规则,则可能会导致资源创建失败,请联系组织管理员了解标签策略详情。

    具体请参考《标签管理服务用户指南》。

    说明:
    • 最多支持20个标签。
    • 一个“键”只能添加一个“值”。
    • 每个资源中的键名不能重复。
    • 标签键:在输入框中输入标签键名称。
      说明:

      标签的键的最大长度为128个字符,标签的键可以包含任意语种字母、数字、空格和_ . : +-@ ,但首尾不能含有空格,不能以_sys_开头。

    • 标签值:在输入框中输入标签值。
      说明:

      标签值的最大长度为255个字符,标签的值可以包含任意语种字母、数字、空格和_ . : +-@ 。

  4. 参数填写完成后,单击“立即购买”,在界面上确认当前配置是否正确。
  5. 单击“提交”完成创建。等待弹性资源池状态变成“可使用”表示当前弹性资源池创建成功。
  6. 弹性资源池创建成功后,可以根据当前业务场景参考典型场景示例:创建弹性资源池并运行作业典型场景示例:配置弹性资源池队列扩缩容策略完成后续操作。

在弹性资源池中添加队列

创建完弹性资源池后,弹性资源池需要添加一个或多个队列用于后续作业的运行。本节操作介绍在弹性资源池中添加队列的操作步骤。

添加到弹性资源池中的队列不再单独计费,以弹性资源池为计费项计费。

当弹性资源池添加队列时会引起弹性资源CUs扩缩容变化。

  1. 在左侧导航栏单击“弹性资源池”,可进入弹性资源池管理页面。
  2. 选择要操作的弹性资源池,在“操作”列,单击“添加队列”。
  3. 在“添加队列”界面,首先需要配置队列的基础配置,具体参数信息如下。

    表3 弹性资源池添加队列基础配置

    参数名

    参数描述

    名称

    弹性资源池添加的队列名称。

    类型

    • SQL队列:用于运行SQL作业。
    • 通用队列:用于运行Spark作业 、Flink 作业。

    执行引擎

    如果队列类型选择为“SQL队列”,则可以选择队列引擎是:Spark或者HetuEngine

    HetuEngine类型的SQL队列最小CU不能小于96CUs。

    使用HetuEngine引擎提交SQL作业必须配置DLI作业桶,具体操作请参考配置DLI作业桶

    企业项目

    选择队列的企业项目。弹性资源池支持添加不同企业项目的队列资源。

    企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。

    关于如何设置企业项目请参考《企业管理用户指南》。

    说明:

    只有开通了企业管理服务的用户才显示该参数。

    描述

    弹性资源池添加队列的描述信息。

    标签

    使用标签标识云资源。包括标签键和标签值。如果您需要使用同一标签标识多种云资源,即所有服务均可在标签输入框下拉选择同一标签,建议在标签管理服务(TMS)中创建预定义标签。

    如您的组织已经设定DLI的相关标签策略,则需按照标签策略规则为资源添加标签。标签如果不符合标签策略的规则,则可能会导致资源创建失败,请联系组织管理员了解标签策略详情。

    具体请参考《标签管理服务用户指南》。

    说明:
    • 最多支持20个标签。
    • 一个“键”只能添加一个“值”。
    • 每个资源中的键名不能重复。
    • 标签键:在输入框中输入标签键名称。
      说明:

      标签的键的最大长度为128个字符,标签的键可以包含任意语种字母、数字、空格和_ . : +-@ ,但首尾不能含有空格,不能以_sys_开头。

    • 标签值:在输入框中输入标签值。
      说明:

      标签值的最大长度为255个字符,标签的值可以包含任意语种字母、数字、空格和_ . : +-@ 。

  4. 单击“下一步”,在“扩缩容策略”界面配置当前队列在弹性资源池的扩缩容策略。

    图1 添加队列时配置扩缩容策略

    单击“新增”,可以添加不同优先级、时间段、“最小CU”和“最大CU”扩缩容策略。每条扩缩容策略的参数说明如下:

    表4 扩缩容策略参数说明

    参数名

    参数描述

    优先级

    当前弹性资源池中的优先级数字越大表示优先级越高。当前优先级支持的范围为:1到100。

    时间段

    时间段设置仅支持整点,左侧为开始时间,右侧为结束时间。请注意以下说明:

    • 时间区间包括开始时间,不包括结束时间即[开始时间, 结束时间)。

      例如当前选择的时间段范围为:01--17,则表示当前扩缩容规则生效时间范围为[01,17)。

    • 同一队列不同优先级的时间段区间不能有交集。

    最小CU

    当前扩缩容策略支持的最小CU数。

    • 在全天的任意一个时间段内,弹性资源池中所有队列的最小CU数之和必须小于等于弹性资源池的最小CU数。
    • 当队列的最小CUs小于16CUs时,在队列属性中设置的“最大spark driver实例数”和“最大预拉起spark driver实例数”不生效。了解队列属性设置

    HetuEngine类型的SQL队列最小CU不能小于96CUs。

    最大CU

    当前扩缩容策略支持的最大CU数。

    在全天的任意一个时间段内,弹性资源池中任意一个队列的最大CU必须小于等于弹性资源池的最大CU。

    说明:
    • 首条扩缩容策略是默认策略,不能删除和修改时间段配置。
    • Flink作业不支持触发弹性资源池队列的自动扩缩容。

  5. 单击“确定”完成添加队列配置。弹性资源池队列添加完成后,可以参考调整弹性资源池中队列的扩缩容策略查看弹性资源池添加的所有队列配置和策略信息。

我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。 详情

文档反馈

文档反馈

意见反馈

0/500

标记内容

同时提交标记内容