CDM Job
功能
通过CDM Job节点执行一个预先定义的CDM作业,实现数据迁移功能。
如果CDM作业中配置了时间宏变量,通过DataArts Studio数据开发调度CDM迁移作业时,系统会将时间宏变量替换为(数据开发作业计划启动时间-偏移量),而不是(CDM作业实际启动时间-偏移量)。
参数
用户可参考表1,表2和表3配置CDM Job节点的参数。配置血缘关系用以标识数据流向,在数据目录模块中可以查看。
参数 |
是否必选 |
说明 |
---|---|---|
CDM集群名称 |
是 |
选择待执行的CDM作业所属的CDM集群。
此处支持勾选两个CDM集群,用于提升作业可靠性。
|
CDM作业类型 |
是 |
说明:
|
CDM作业名称 |
否 |
仅当“作业类型”为“选择已存在的作业”时需要配置该参数。选择待执行的CDM作业。 如果此CDM作业使用了在数据开发时配置的作业参数或者变量,则后续在数据开发模块调度此节点,可以间接实现CDM作业根据参数变量进行数据迁移。 |
CDM作业消息体 |
否 |
仅当“作业类型”为“创建新作业”时需要配置该参数。此处需要填写CDM作业JSON。方便起见可以在CDM已有作业处选择操作“更多 > 查看作业JSON”,复制其中的JSON内容,在此处修改适配。 如果此CDM作业使用了在数据开发时配置的作业参数或者变量,则后续在数据开发模块调度此节点,可以间接实现CDM作业根据参数变量进行数据迁移。 |
节点名称 |
是 |
节点名称,可以包含中文、英文字母、数字、“_”、“-”、“/”、“<”、“>”等各类特殊字符,长度为1~128个字符。 默认情况下,节点名称会与选择的CDM作业保持同步。若不需要节点名称和作业名称同步,请参考禁用作业节点名称同步变化禁用该功能。 |
参数 |
是否必选 |
说明 |
---|---|---|
节点状态轮询时间(秒) |
是 |
设置轮询时间(1~60秒),每隔x秒查询一次节点是否执行完成。 |
节点执行的最长时间 |
是 |
设置节点执行的超时时间,如果节点配置了重试,在超时时间内未执行完成,该节点将会再次重试。 |
失败重试 |
是 |
节点执行失败后,是否重新执行节点。
说明:
|
当前节点失败后,后续节点处理策略 |
是 |
节点执行失败后的操作:
|
是否空跑 |
否 |
如果勾选了空跑,该节点不会实际执行,将直接返回成功。 |
任务组 |
否 |
选择任务组。任务组配置好后,可以更细粒度的进行当前任务组中的作业节点的并发数控制,比如作业中包含多个节点、补数据、重跑等场景。 |
参数 |
说明 |
---|---|
输入 |
|
新建 |
单击“新建”,在“类型”的下拉选项中选择要新建的类型。可以选择DWS,OBS,CSS,HIVE,CUSTOM和DLI类型。 |
确定 |
单击“确认”,保存节点输入功能的参数配置。 |
取消 |
单击“取消”,取消节点输入功能的参数配置。 |
编辑 |
单击,修改节点输入功能的参数配置,修改完成后,请保存。 |
删除 |
单击,删除节点输入功能的参数配置。 |
查看表详情 |
单击,查看节点输入血缘关系创建数据表的详细信息。 |
输出 |
|
新建 |
单击“新建”,在“类型”的下拉选项中选择要新建的类型。可以选择DWS,OBS,CSS,HIVE,CUSTOM和DLI类型。 |
确定 |
单击“确认”,保存节点输出功能的参数配置。 |
取消 |
单击“取消”,取消节点输出功能的参数配置。 |
编辑 |
单击,修改节点输出功能的参数配置,修改完成后,请保存。 |
删除 |
单击,删除节点输出功能的参数配置。 |
查看表详情 |
单击,查看节点输出血缘关系创建数据表的详细信息。 |