更新时间:2024-10-18 GMT+08:00

Data Migration

功能

该节点用于执行一个集成作业,Data Migration节点支持离线处理集成作业和实时处理集成作业。

参数

用户可参考表1表2配置Data Migration节点的参数。

表1 属性参数

参数

是否必选

说明

节点名称

节点名称,可以包含中文、英文字母、数字、“_”“-”“/”“<”“>”等各类特殊字符,长度为1~128个字符。

CDM集群名称

选择CDM集群。如需查看集群列表,请单击下拉框右侧的。系统最多允许选择16个集群。

CDM作业消息体

输入CDM作业消息体,作业消息体内容为JSON格式。

消息体JSON内容获取方法如下:

  1. 参考新建离线处理集成作业创建一个单任务数据迁移作业。
  2. 在键盘上按F12,打开创建好的单任务数据迁移作业,选择“network”页签。该任务请求方式为getPipeline。
    图1 请求方式getPipeline
  3. “Preview”的jobBody里面的“value”字段获取JSON消息体的内容。
    图2 JSON消息体内容
  4. 将获取到的消息体内容复制到CDM作业消息体里面,可以对JSON消息体进行编辑。
  5. 单击“保存”。
表2 高级参数

参数

是否必选

说明

节点状态轮询时间(秒)

设置轮询时间(1~60秒),每隔x秒查询一次节点是否执行完成。

节点执行的最长时间

设置节点执行的超时时间,如果节点配置了重试,在超时时间内未执行完成,该节点将会再次重试。

失败重试

节点执行失败后,是否重新执行节点

  • 是:重新执行节点,请配置以下参数。
    • 最大重试次数
    • 重试间隔时间(秒)
  • 否:默认值,不重新执行节点
说明:
  • 建议仅对文件类作业或启用了导入阶段表的数据库作业配置自动重试,避免自动重试重复写入数据导致数据不一致。
  • 如果作业节点配置了重试,并且配置了超时时间,该节点执行超时后,系统支持再重试。

当前节点失败后,后续节点处理策略

节点执行失败后的操作:

  • 终止后续节点执行计划:停止后续节点的运行,当前作业实例状态显示为“失败”。
  • 终止当前作业执行计划:停止当前作业运行,当前作业实例状态显示为“失败”。
  • 继续执行下一节点:忽略当前节点失败,当前作业实例状态显示为“忽略失败”。
  • 挂起当前作业执行计划:当前作业实例的状态为运行异常,该节点的后续节点以及依赖于当前作业的后续作业实例都会处于等待运行状态。

是否空跑

如果勾选了空跑,该节点不会实际执行,将直接返回成功。

任务组

选择任务组。任务组配置好后,可以更细粒度的进行当前任务组中的作业节点的并发数控制,比如作业中包含多个节点、补数据、重跑等场景。