数据湖探索 DLI数据湖探索 DLI

计算
弹性云服务器 ECS
裸金属服务器 BMS
云手机 CPH
专属主机 DeH
弹性伸缩 AS
镜像服务 IMS
函数工作流 FunctionGraph
云耀云服务器 HECS
VR云渲游平台 CVR
特惠算力专区
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
弹性文件服务 SFS
存储容灾服务 SDRS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属企业存储服务
云存储网关 CSG
专属分布式存储服务 DSS
CDN与智能边缘
内容分发网络 CDN
智能边缘云 IEC
智能边缘小站 IES
智能边缘平台 IEF
人工智能
AI开发平台ModelArts
华为HiLens
图引擎服务 GES
图像识别 Image
文字识别 OCR
自然语言处理 NLP
内容审核 Moderation
图像搜索 ImageSearch
医疗智能体 EIHealth
园区智能体 CampusGo
企业级AI应用开发专业套件 ModelArts Pro
人脸识别服务 FRS
对话机器人服务 CBS
视频分析服务 VAS
语音交互服务 SIS
知识图谱 KG
人证核身服务 IVS
IoT物联网
设备接入 IoTDA
设备管理 IoTDM(联通用户专用)
全球SIM联接 GSL
IoT开发者服务
IoT数据分析
车联网服务 IoV
路网数字化服务 DRIS
IoT边缘 IoTEdge
设备发放 IoTDP
开发与运维
软件开发平台 DevCloud
项目管理 ProjectMan
代码托管 CodeHub
流水线 CloudPipeline
代码检查 CodeCheck
编译构建 CloudBuild
部署 CloudDeploy
云测 CloudTest
发布 CloudRelease
移动应用测试 MobileAPPTest
CloudIDE
Classroom
开源镜像站 Mirrors
应用魔方 AppCube
云性能测试服务 CPTS
应用管理与运维平台 ServiceStage
云应用引擎 CAE
视频
实时音视频 SparkRTC
视频直播 Live
视频点播 VOD
媒体处理 MPC
视频接入服务 VIS
管理与监管
统一身份认证服务 IAM
消息通知服务 SMN
云监控服务 CES
应用运维管理 AOM
应用性能管理 APM
云日志服务 LTS
云审计服务 CTS
标签管理服务 TMS
资源管理服务 RMS
应用身份管理服务 OneAccess
区块链
区块链服务 BCS
可信跨链服务 TCS
智能协作
IdeaHub
开发者工具
SDK开发指南
API签名指南
DevStar
HCloud CLI
Terraform
Ansible
API问题定位指导
云生态
云市场
合作伙伴中心
华为云培训中心
其他
管理控制台
消息中心
产品价格详情
系统权限
我的凭证
客户关联华为云合作伙伴须知
公共问题
宽限期保留期
奖励推广计划
活动
容器
云容器引擎 CCE
云容器实例 CCI
容器镜像服务 SWR
应用编排服务 AOS
多云容器平台 MCP
基因容器 GCS
容器洞察引擎 CIE
云原生服务中心 OSC
容器批量计算 BCE
容器交付流水线 ContainerOps
应用服务网格 ASM
网络
虚拟私有云 VPC
弹性公网IP EIP
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
虚拟专用网络 VPN
云连接 CC
VPC终端节点 VPCEP
数据库
云数据库 RDS
数据复制服务 DRS
文档数据库服务 DDS
分布式数据库中间件 DDM
云数据库 GaussDB (for openGauss)
云数据库 GaussDB(for MySQL)
云数据库 GaussDB NoSQL
数据管理服务 DAS
数据库和应用迁移 UGO
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
可信智能计算服务 TICS
推荐系统 RES
云搜索服务 CSS
数据可视化 DLV
数据湖治理中心 DGC
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
应用中间件
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
API网关 APIG
分布式缓存服务 DCS
分布式消息服务RocketMQ版
企业应用
域名注册服务 Domains
云解析服务 DNS
云速建站 CloudSite
网站备案
华为云WeLink
会议
隐私保护通话 PrivateNumber
语音通话 VoiceCall
消息&短信 MSGSMS
云管理网络
SD-WAN 云服务
边缘数据中心管理 EDCM
云桌面 Workspace
应用与数据集成平台 ROMA Connect
ROMA资产中心 ROMAExchange
API全生命周期管理 ROMA API
安全与合规
安全技术与应用
DDoS防护 ADS
Web应用防火墙 WAF
云防火墙 CFW
应用信任中心 ATC
企业主机安全 HSS
容器安全服务 CGS
云堡垒机 CBH
数据库安全服务 DBSS
数据加密服务 DEW
数据安全中心 DSC
云证书管理服务 CCM
SSL证书管理 SCM
漏洞扫描服务 VSS
态势感知 SA
威胁检测服务 MTD
管理检测与响应 MDR
安全治理云图 Compass
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
专属云
专属计算集群 DCC
解决方案
高性能计算 HPC
SAP
游戏云
混合云灾备
华为工业云平台 IMC
价格
成本优化最佳实践
专属云商业逻辑
用户服务
帐号中心
费用中心
成本中心
资源中心
企业管理
工单管理
客户运营能力
国际站常见问题
支持计划
专业服务
合作伙伴支持计划
更新时间:2021-11-30 GMT+08:00
分享

队列管理概述

队列

DLI服务中的队列即为计算资源,计算资源是使用DLI服务的基础,用户执行的一切作业都需要使用计算资源。

当前DLI服务包括“SQL队列”和“通用队列”两种队列类型。 其中,SQL队列用于运行SQL作业,通用队列兼容老版本的Spark队列,用于运行Spark作业和Flink作业。

  • SQL队列每隔12小时会自动重启一次。
  • 不支持不同类型队列直接转换,如需更换队列,请重新购买新的队列。
  • default队列是系统预置的默认队列,不计费,不需要单独删除。

计算资源和存储资源的区别

表1 计算资源和存储资源的区别

资源名称

获取方式

计费方式

主要作用

计算资源

在DLI管理控制台创建队列。

按扫描数据量或按CU时计费。

执行查询。

存储资源

DLI服务自带5G配额。

按存储数据量计费。

存储数据库和DLI表。

  • 存储资源是DLI服务内部的存储资源,用于存储数据库和DLI表,体现用户存储在DLI中的数据量。
  • 存储资源无需创建,DLI默认提供5G配额,若需要更大配额可提交工单申请。
  • DLI服务预置了名为“default”的队列,资源的大小是按需分配的。用户在不确定所需队列容量或没有可创建队列空间的情况下,可以使用该队列执行作业。
  • “default”队列只用于用户体验,所有人共用,用户间可能会出现抢占资源的情况,不能保证每次都可以得到资源执行相关操作。建议使用自建队列执行作业。

专属队列

专属队列是指队列对应的资源为专属资源,空闲时不释放,即无论是否使用均保留资源的队列类型。专属队列可以保证提交作业时资源一定存在。购买按需队列时可以选择专属队列。专属队列无论是否使用,24小时均收费。包年包月队列为专属队列。

跨AZ队列

可用区(AZ,Availability Zone):一个AZ是一个或多个物理数据中心的集合,有独立的风火水电,AZ内逻辑上再将计算、网络、存储等资源划分成多个集群。一个Region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。更多内容请参考《区域和可用区》。

DLI跨AZ队列能够为用户提供跨区域容灾的能力,提高计算的可靠性,用户可以在单AZ不可用的情况下,持续使用DLI服务。适用于用户对队列可靠性要求较高的场景。

DLI跨AZ队列是指在两个不同AZ下建立相同的计算资源,例如,用户1需要1400CUs的计算资源,那么用户1可以在创建队列的时候选择1400CUs的计算资源并且勾选跨AZ选项,DLI将为用户1创建两个不同AZ下的专属1400CUs计算资源,在一个AZ不可用的情况下,另外一个AZ可以正常的处理用户1的计算任务。

  • 目前仅支持包年包月队列和按需专属队列进行跨AZ双活,不支持普通按需队列和default队列。
  • 在购买队列时勾选跨AZ选项后,计费将为单AZ模式下的2倍。

AI增强型队列

AI增强型队列用于运行AI相关的SQL作业。DLI通过AI镜像,在原有的Spark镜像基础上,集成了一系列通用的AI相关算法包,将Spark与AI能力相结合,方便用户运行机器学习相关的作业。AI镜像所依赖的安装包请参考AI镜像安装依赖包

包年包月队列规格变更

DLI提供了包年包月队列规格变更的功能。用户在创建包年包月队列后,可根据需要进行规格变更。目前只支持64CUs以上规格队列进行规格变更。

根据业务情况,手动更改队列规格。具体操作请参考规格变更。当前只支持包年包月队列的规格扩容/缩容,扩容/缩容后会进行收费或者退费,具体费用请参考页面提示。

新创建的队列需要运行作业后才可进行扩缩容。

按需队列弹性扩缩容

DLI提供了按需队列弹性扩缩容的功能。用户在创建指定规格按需队列后,可根据需要进行弹性扩缩容。

根据业务情况,手动更改队列规格。具体操作请参考弹性扩缩容。当前只支持按需队列的弹性扩缩容,扩容/缩容后仍然按需计费,即根据CU时计费。

新创建的队列需要运行作业后才可进行扩缩容。

队列弹性扩缩容定时任务

DLI提供了队列弹性扩缩容定时任务的功能。用户在创建队列后,可根据需要进行弹性扩缩容定时任务。

根据业务情况,设置队列自动扩缩容的时间,由系统定时触发队列扩缩容。具体操作请参考弹性扩缩容定时任务
  • 按需队列扩容/缩容后仍然按需计费,即根据CU时计费。目前只支持64CU以上队列进行定时弹性扩缩容任务,即队列最小值为64CU。
  • 包年包月队列只支持弹性扩容定时任务,扩容根据“预付费 + 按需CU时”计费,即包年包月规格之外的资源按需计费。目前只支持64CUs以上包年包月队列进行定时弹性扩容任务。

新创建的队列需要运行作业后才可进行扩缩容。

队列自动扩缩容

Flink作业使用按需队列,DLI可根据作业大小自动触发扩缩容,用户无需进行操作。

新创建的队列需要运行作业后才可进行扩缩容。

队列管理页面

队列管理主要包括如下功能:

DLI作业执行失败需要通过SMN发送通知消息,因此需要获得访问和使用SMN(消息通知服务)的SMN Administrator权限。

队列管理页面显示用户创建所有的队列和服务预置的default队列,您可以查看队列容量、计费方式等信息。队列列表默认按创建时间排列,创建时间最近的队列显示在最前端。

表2 队列管理参数

参数

参数说明

名称

队列的名称。

类型

队列的类型。

  • SQL队列
  • 通用队列
  • Spark队列(兼容老版本)

规格

队列大小,单位:CUs。

  • 按需队列:购买按需队列时的队列大小。
  • 包年包月队列:购买包年包月队列时的队列大小。

CUs是队列的计价单位。 1CUs=1Core 4GMem 。不同规格的队列对应的计算能力不一样,规格越高计算能力越好。

实际CUs

当前队列实际大小值。

弹性扩缩容

定时扩缩容的目标CU值,或当前规格CU值的最大值和最小值。

计费模式

SQL作业有两种计费方式。

  • 按需计费

    按需计费有三种方式,三种方式是互斥的,可根据需要选择其中一种。

    • 按需/CU时:按照CU时收取计算费用。建议选择CU时套餐包。
    • 按需/SQL计算量:按照用户每个作业的数据扫描量收取计算费用。建议选择扫描量套餐包。
      说明:

      只有default队列按照数据扫描量收取计算费用,用户自定义队列均按照CU时收取计算费用。

    • 按需/专属资源模式:自创建起按照自然小时收取计算费用。该模式下可创建增强型跨源连接。
  • 包年包月:
    • 包年
    • 包月

所有者

队列所有者。

描述

创建队列时,对队列的描述。如果无描述,则显示“--”。

所属项目

显示所建队列所属的企业项目。如果不属于企业项目,则显示“--”。

企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。关于如何设置企业项目请参考《企业管理用户指南》。

说明:

只有开通了企业管理服务的用户才显示该参数。

操作

  • 详情:查看队列信息,包括:名称,CPU架构,专属资源模式,所有者,描述,创建时间,AZ策略等信息。
  • 删除:删除所选队列。如果队列中有正在提交或者正在运行的作业,将不支持删除操作。
    说明:

    只有按需计费可以删除队列。

  • 重启:强制重启队列。
    说明:

    只有SQL队列有“重启”操作。

  • 更多
    • 分配至项目:修改所选队列所属的企业项目。
      说明:

      只有开通了企业管理服务的用户才显示该参数。关于如何设置企业项目请参考《企业管理用户指南》。

    • 弹性扩缩容:可以根据需要选择“扩容”或“缩容”,目标值大小必须为16CU的整数倍。
      说明:

      只有“按需/CU时”和“按需/专属资源模式”计费队列可以进行弹性扩缩容。

    • 规格变更:可以根据需要选择“扩容”或“缩容”,目标值大小必须为16CU的整数倍。
      说明:

      只有“包年包月”计费队列可以进行规格变更。

    • 弹性扩缩容定时任务:可以根据业务周期或使用情况,在不同的时间或周期内设置不同的队列大小,系统将定时自动进行“扩容”或“缩容”。目标值大小必须为16CU的整数倍。
    • 续费/退订:根据需要选择续费或者退订。
      说明:

      只有包年包月计费有“续费/退订”操作。

    • 修改网段:使用DLI增强型跨源时,DLI队列网段与数据源网段不能重合,可根据需要进行修改。

      建议使用网段:

      10.0.0.0~10.255.0.0/8~24

      172.16.0.0~172.31.0.0/12~24

      192.168.0.0~192.168.0.0/16~24
      说明:

      只有包年包月队列可以修改网段。

    • 权限管理:查看队列对应的用户权限信息以及对其他用户授权。
    • 测试地址连通性:测试队列到指定地址是否可达,支持域名和ip,可指定端口。
    • 标签:添加、编辑或删除标签。
分享:

    相关文档

    相关产品

关闭导读