更新时间:2024-08-05 GMT+08:00

Data Quality Monitor

功能

通过Data Quality Monitor节点可以对运行的数据进行质量监控。

参数

用户可参考表1表2配置Data Quality Monitor节点的参数。

表1 属性参数

参数

是否必选

说明

节点名称

节点名称,可以包含中文、英文字母、数字、“_”“-”“/”“<”“>”等各类特殊字符,长度为1~128个字符。

DQC作业类型

数据质量作业的类型:

  • 质量作业
  • 对账作业

质量作业名称

DQC作业类型为质量作业时需要配置。选择在数据质量模块中创建的质量作业名称。如何创建质量作业,请参见的新建数据质量作业

是否忽略质量作业告警

DQC作业类型为质量作业时需要配置。

  • 是:如果该质量作业处于告警状态时,当前节点的状态将被设置为成功,继续执行后续节点。
  • 否:如果该质量作业处于告警状态时,则当前节点的状态将被设置为失败。

对账作业名称

DQC作业类型为对账作业时需要配置。选择在数据质量模块中创建的对账作业名称。如何创建对账作业,请参见的新建数据对账作业

是否忽略对账作业告警

DQC作业类型为对账作业时需要配置。

  • 是:如果该对账作业处于告警状态时,当前节点的状态将被设置为成功,继续执行后续节点。
  • 否:如果该对账作业处于告警状态时,则当前节点的状态将被设置为失败。
表2 高级参数

参数

是否必选

说明

节点执行的最长时间

设置节点执行的超时时间,如果节点配置了重试,在超时时间内未执行完成,该节点将会再次重试。

失败重试

节点执行失败后,是否重新执行节点

  • 是:重新执行节点,请配置以下参数。
    • 超时重试
    • 最大重试次数
    • 重试间隔时间(秒)
  • 否:默认值,不重新执行节点
    说明:

    如果作业节点配置了重试,并且配置了超时时间,该节点执行超时后,系统支持再重试。

    当节点运行超时导致的失败不会重试时,您可前往“默认项设置”修改此策略。

    当“失败重试”配置为“是”才显示“超时重试”。

当前节点失败后,后续节点处理策略

节点执行失败后的操作:

  • 终止后续节点执行计划:停止后续节点的运行,当前作业实例状态显示为“失败”。
  • 终止当前作业执行计划:停止当前作业运行,当前作业实例状态显示为“失败”。
  • 继续执行下一节点:忽略当前节点失败,当前作业实例状态显示为“忽略失败”。
  • 挂起当前作业执行计划:当前作业实例的状态为运行异常,该节点的后续节点以及依赖于当前作业的后续作业实例都会处于等待运行状态。

是否空跑

如果勾选了空跑,该节点不会实际执行,将直接返回成功。

任务组

选择任务组。任务组配置好后,可以更细粒度的进行当前任务组中的作业节点的并发数控制,比如作业中包含多个节点、补数据、重跑等场景。