作业队列 平台为脱敏作业提供作业队列的功能，用户可在此查看任务队列，同时支持对任务优先级的调整。 其他租户的队列作业不允许操作。 在左侧菜单栏中单击“数据合规”。 选择“数据脱敏 > 作业队列”页签，可查看作业。 图1 作业队列 父主题： 数据脱敏

查看更多 →

作业队列 查询排队作业列表 操作队列 批量更新队列优先级 父主题： API

查看更多 →

作业队列 表1 作业队列权限 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 查询排队作业列表 GET /v1.0/{project_id}/data/queuing-jobs octopus:dataJob:list

查看更多 →

作业队列 平台为算子作业、内部作业和脱敏作业提供作业队列的功能，用户可在此查看任务队列，同时支持对任务优先级的调整。 其他租户的队列作业不允许操作。 在左侧菜单栏中单击“数据服务 > 数据处理”。 选择“作业队列”页签，可根据作业类型（算子作业或内部作业）查看作业。 图1 作业队列

查看更多 →

作业队列 平台为回放仿真任务提供作业队列的功能，用户可在此查看任务队列，同时支持对任务优先级的调整。 其他租户的队列作业不允许操作。 在左侧菜单栏中单击“数据处理 > 回放仿真”。 选择“作业队列”页签，查看作业。 图1 作业队列 回放仿真作业队列相关操作 在“作业队列”页签，还可以进行以下操作。

查看更多 →

查看队列的基本信息 本节操作介绍在管理控制台如何查看队列的基本信息，包括队列的引擎类型和引擎版本。 查看队列的基本信息 登录 DLI 管理控制台。 选择“资源管理 > 队列管理”。 进入队列列表页面，选择您需要查看的队列。 在列表页面的右上方单击可以自定义显示列，并设置表格内容显示规则、操作列显示规则。

查看更多 →

查看作业历史信息 操作场景 该任务指导您在日常运维中，查看某个Loader作业的历史执行状态以及每次执行时长，同时提供该作业两种操作： 脏数据：查看作业执行过程中处理失败的数据、或者被清洗过滤掉的数据，针对该数据可以查看源数据中哪些数据不符合转换、清洗规则。 日志：查看作业在MapReduce执行的日志信息。

查看更多 →

管理Spark作业 查看Spark作业的基本信息 在总览页面单击“Spark作业”简介，或在左侧导航栏单击“作业管理”>“Spark作业”，可进入Spark作业管理页面。Spark作业管理页面显示所有的Spark作业，作业数量较多时，系统分页显示，您可以查看任何状态下的作业。 表1

查看更多 →

作。 查看作业详情 在“SQL作业”页面，选中一条作业，单击该作业对应的，可查看该条作业的详细信息。 不同类型的作业，显示的作业详情不同。作业详情根据作业类型、状态和配置选项不同显示可能存在差异，具体以实际界面显示为准。以导入数据作业，建表作业和查询作业为例说明。其他作业类型支持查看的详细信息请以控制台信息为准。

查看更多 →

Console页面Flink作业状态与Yarn上的作业状态不一致？ SparkStreaming作业运行后报OBS访问403如何处理？ Spark运行作业报错“java.io.IOException: Connection reset by peer”如何处理？ Spark作业访问OBS报错“requestId=XXX”如何处理？

查看更多 →

Flink作业相关API 包括OBS授权给DLI服务、新建SQL作业、更新SQL作业、新建Flink自定义作业、更新Flink自定义作业、批量运行作业、查询作业列表、查询作业详情、查询作业执行计划、查询作业监控信息、批量停止作业、删除作业、批量删除作业、导出Flink作业、导入Flink作业、生成Flink

查看更多 →

步骤5：提交Spark作业 在DLI管理控制台，单击左侧导航栏中的“作业管理 > Spark作业”，单击“创建作业”，进入创建Spark作业页面。 在Spark作业编辑页面配置作业参数信息： 队列：选择步骤2：创建弹性资源池并添加队列中创建的队列。 Spark版本：选择Spark引擎版本。本例选择3

查看更多 →

- 设置作业运行超时时间，超时取消。单位：秒。 跳转至SparkUI查看SQL语句执行进程 SQL编辑器页面提供了跳转至SparkUI查看SQL语句执行进程的功能。 目前DLI配置SparkUI只展示最新的100条作业信息。 default队列下运行的作业或者该作业为同步作业时不支

查看更多 →

步骤7：创建Spark Jar作业 登录DLI控制台，单击“作业管理 > Spark作业”。 在“Spark作业”管理界面，单击“创建作业”。 在作业创建界面，配置对应作业运行参数。具体说明如下： 所属队列：选择已创建的DLI通用队列。例如当前选择步骤1：创建DLI通用队列创建的通用队列“sparktest”。

查看更多 →

单击“执行”，提交该Spark Jar作业。在Spark作业管理界面显示已提交的作业运行状态。 图13 查看作业运行状态 步骤8：查看作业运行结果 在Spark作业管理界面显示已提交的作业运行状态。初始状态显示为“启动中”。 如果作业运行成功则作业状态显示为“已成功”，通过以下操作查看创建的数据库和表。

查看更多 →

DLI支持选在鲲鹏CPU架构 商用 创建队列 2019年8月 序号 功能名称 功能描述 阶段 相关文档 1 支持SparkUI查看作业详情 DLI支持通过SparkUI页面查看作业运行的情况。 商用 Class SparkUI 历史变更 关于 数据湖探索 DLI更多历史版本变更内容，请单击“查看PDF”详细了解。

查看更多 →

为什么Spark jar 作业 一直处于“提交中”？ Spark jar 作业 一直处于“提交中”可能是队列剩余的CU量不足导致作业无法提交。 查看队列的的剩余步骤如下： 查看队列CU使用量。 点击“ 云监控服务 > 云服务监控 > 数据探索湖 > 队列监控 > 队列CU使用量” 。

查看更多 →

Spark作业相类 Spark作业开发类 Spark作业运维类

查看更多 →

DLI Spark 功能 通过DLI Spark节点执行一个预先定义的Spark作业。 DLI Spark节点的具体使用教程，请参见开发一个DLI Spark作业。 参数 用户可参考表1，表2和表3配置DLI Spark节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称

查看更多 →

Spark作业相关 前提条件 已参考Java SDK概述配置Java SDK环境。 已参考初始化DLI客户端完成客户端DLIClient的初始化，参考队列相关完成队列创建等操作。 提交批处理作业 DLI提供执行批处理作业的接口。您可以使用该接口执行批处理作业。示例代码如下： 1

查看更多 →

说明： 作业名称不得包含中文字符、超出长度限制等。如果作业名称不符合规则，将导致提交 MRS 作业失败。 运行模式 是 配置Spark作业的运行模式。 批处理：指Spark作业为批模式运行，节点会一直等待Spark作业执行完成才结束。 流处理：指Spark作业为流处理运行模式，节点执行

查看更多 →