随机集群创建作业并执行
功能介绍
随机集群创建作业并执行接口。
调用方法
请参见如何调用API。
URI
POST /v1.1/{project_id}/clusters/job
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| project_id | 是 | String | 项目ID,获取方法请参见项目ID和账号ID。 |
请求参数
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| X-Auth-Token | 是 | String | 用户Token。 通过调用IAM服务获取用户Token接口获取(响应消息头中X-Subject-Token的值)。 |
| X-Language | 是 | String | 请求语言。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| jobs | 是 | Array of Job objects | 作业列表,请参见jobs数据结构说明。 |
| clusters | 是 | Array of strings | CDM集群ID列表,系统会从里面随机选择一个开机状态的集群,在该集群中创建作业并执行作业。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| job_type | 是 | String | 作业类型: |
| from-connector-name | 是 | String | 源端连接类型,对应的连接参数如下: |
| to-config-values | 是 | ConfigValues object | 目的连接参数配置。根据不同目的端有不同的参数配置,具体可参考目的端作业参数说明下相应的目的端参数配置。 |
| to-link-name | 是 | String | 目的端连接名称,即为通过“创建连接”接口创建的连接对应的连接名。 |
| driver-config-values | 是 | ConfigValues object | 作业任务参数配置。例如配置作业失败重试、抽取并发数,具体可参考作业任务参数说明。 |
| from-config-values | 是 | ConfigValues object | 源连接参数配置。根据不同源端有不同的参数配置,具体可参考源端作业参数说明下相应的源端参数配置。 |
| to-connector-name | 是 | String | 目的端连接类型,对应的连接参数如下: |
| name | 是 | String | 作业名称,长度在1到240个字符之间。 |
| from-link-name | 是 | String | 源连接名称,即为通过“创建连接”接口创建的连接对应的连接名。 |
| creation-user | 否 | String | 创建作业的用户。由系统生成,用户无需填写。 |
| creation-date | 否 | Long | 作业创建的时间,单位:毫秒。由系统生成,用户无需填写。 |
| update-date | 否 | Long | 作业最后更新的时间,单位:毫秒。由系统生成,用户无需填写。 |
| is_incre_job | 否 | Boolean | 是否是增量作业。已废弃。 |
| flag | 否 | Integer | 是否是定时作业标记,如果是定时作业则为1,否则为0。由系统根据定时任务配置生成,用户无需填写。 |
| files_read | 否 | Integer | 已读文件数。由系统生成,用户无需填写。 |
| update-user | 否 | String | 最后更新作业的用户。由系统生成,用户无需填写。 |
| external_id | 否 | String | 具体执行的作业id,如果是本地作业,则一般为"job_local1202051771_0002"形式,如果是DLI作业,则为DLI作业ID,比如"12345"。由系统生成,用户无需填写。 |
| type | 否 | String | 与job_type一致,作业类型: |
| execute_start_date | 否 | Long | 最近一次执行任务开始时间,单位:毫秒。由系统生成,用户无需填写。 |
| delete_rows | 否 | Integer | 增量作业删除行数,已废弃。 |
| enabled | 否 | Boolean | 是否激活连接。由系统生成,用户无需填写。 |
| bytes_written | 否 | Long | 作业写入的字节。由系统生成,用户无需填写。 |
| id | 否 | Integer | 作业ID。由系统生成,用户无需填写。 |
| is_use_sql | 否 | Boolean | 用户是否使用sql。由系统根据源端抽取是否使用sql语句生成,用户无需填写。 |
| update_rows | 否 | Integer | 增量作业更新行数,已废弃。 |
| group_name | 否 | String | 组名。 |
| bytes_read | 否 | Long | 作业读取的字节。由系统生成,用户无需填写。 |
| execute_update_date | 否 | Long | 最近一次执行任务更新时间,单位:毫秒。由系统生成,用户无需填写。 |
| write_rows | 否 | Integer | 增量作业写入行数,已废弃。 |
| rows_written | 否 | Integer | 作业写入的行数。由系统生成,用户无需填写。 |
| rows_read | 否 | Long | 作业读取的行数。由系统生成,用户无需填写。 |
| files_written | 否 | Integer | 写入文件数。由系统生成,用户无需填写。 |
| is_incrementing | 否 | Boolean | 是否是增量作业,同is_incre_job,已废弃。 |
| execute_create_date | 否 | Long | 最近一次执行任务创建时间,单位:毫秒。由系统生成,用户无需填写。 |
| status | 否 | String | 作业最后的执行状态: |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| configs | 是 | Array of configs objects | 源连接参数、目的连接参数和作业任务参数,它们的配置数据结构相同,其中“inputs”里的参数不一样,详细请参见configs数据结构说明。 |
| extended-configs | 否 | extended-configs object | 扩展配置,请参见extended-configs参数说明。扩展配置暂不对外开放,用户无需填写。 |
| 参数 | 是否必选 | 参数类型 | 描述 |
|---|---|---|---|
| inputs | 是 | Array of Input objects | 输入参数列表,列表中的每个参数为“name,value”结构,请参考inputs数据结构参数说明。在“from-config-values”数据结构中,不同的源连接类型有不同的“inputs”参数列表,请参见源端作业参数说明下的章节。在“to-config-values”数据结构中,不同的目的连接类型有不同的“inputs”参数列表,请参见目的端作业参数说明下面的子章节。在“driver-config-values”数据结构中,“inputs”具体参数请参见作业任务参数说明。 |
| name | 是 | String | 配置名称:源端作业的配置名称为“fromJobConfig”。目的端作业的配置名称为“toJobConfig”,连接的配置名称固定为“linkConfig”。 |
| id | 否 | Integer | 配置ID,由系统生成,用户无需填写。 |
| type | 否 | String | 配置类型,由系统生成,用户无需填写。值为LINK或者JOB,如果是连接管理API,则为LINK;如果是作业管理API,则为JOB。 |
响应参数
状态码:200
| 参数 | 参数类型 | 描述 |
|---|---|---|
| submissions | Array of StartJobSubmission objects | 作业运行信息,请参见submission参数说明。 |
| 参数 | 参数类型 | 描述 |
|---|---|---|
| isIncrementing | Boolean | 作业是否为增量迁移。 |
| delete_rows | Integer | 删除数据行数。 |
| update_rows | Integer | 更新数据行数。 |
| write_rows | Integer | 写入数据行数。 |
| submission-id | Integer | 作业提交id。 |
| job-name | String | 作业名称。 |
| creation-user | String | 创建用户。 |
| creation-date | Long | 创建时间,单位:毫秒。 |
| execute-date | Long | 执行时间。 |
| progress | Float | 作业进度,失败时为“-1”,其它情况为0~100。 |
| status | String | 作业状态: |
| isStopingIncrement | String | 是否停止增量迁移。 |
| is-execute-auto | Boolean | 是否定时执行作业。 |
| last-update-date | Long | 作业最后更新时间。 |
| last-update-user | String | 最后更新作业状态的用户。 |
| isDeleteJob | Boolean | 作业执行完成后是否删除。 |
请求示例
在CDM集群ID列表中随机选择一个集群,创建一个源端为elasticsearch,目的端为DIS,作业名为es_css的表迁移作业。
POST /v1.1/1551c7f6c808414d8e9f3c514a170f2e/clusters/job
{
"jobs" : [ {
"job_type" : "NORMAL_JOB",
"from-connector-name" : "elasticsearch-connector",
"to-config-values" : {
"configs" : [ {
"inputs" : [ {
"name" : "toJobConfig.streamName",
"value" : "dis-lkGm"
}, {
"name" : "toJobConfig.separator",
"value" : "|"
}, {
"name" : "toJobConfig.columnList",
"value" : "1&2&3"
} ],
"name" : "toJobConfig"
} ]
},
"to-link-name" : "dis",
"driver-config-values" : {
"configs" : [ {
"inputs" : [ {
"name" : "throttlingConfig.numExtractors",
"value" : "1"
}, {
"name" : "throttlingConfig.submitToCluster",
"value" : "false"
}, {
"name" : "throttlingConfig.numLoaders",
"value" : "1"
}, {
"name" : "throttlingConfig.recordDirtyData",
"value" : "false"
} ],
"name" : "throttlingConfig"
}, {
"inputs" : [ ],
"name" : "jarConfig"
}, {
"inputs" : [ {
"name" : "schedulerConfig.isSchedulerJob",
"value" : "false"
}, {
"name" : "schedulerConfig.disposableType",
"value" : "NONE"
} ],
"name" : "schedulerConfig"
}, {
"inputs" : [ ],
"name" : "transformConfig"
}, {
"inputs" : [ {
"name" : "retryJobConfig.retryJobType",
"value" : "NONE"
} ],
"name" : "retryJobConfig"
} ]
},
"from-config-values" : {
"configs" : [ {
"inputs" : [ {
"name" : "fromJobConfig.index",
"value" : "52est"
}, {
"name" : "fromJobConfig.type",
"value" : "est_array"
}, {
"name" : "fromJobConfig.columnList",
"value" : "array_f1_int:long&array_f2_text:string&array_f3_object:nested"
}, {
"name" : "fromJobConfig.splitNestedField",
"value" : "false"
} ],
"name" : "fromJobConfig"
} ]
},
"to-connector-name" : "dis-connector",
"name" : "es_css",
"from-link-name" : "css"
} ],
"clusters" : [ "b0791496-e111-4e75-b7ca-9277aeab9297", "c2db1191-eb6c-464a-a0d3-b434e6c6df26", "c2db1191-eb6c-464a-a0d3-b434e6c6df26" ]
} 响应示例
状态码:200
OK。
{
"submissions" : [ {
"isIncrementing" : false,
"job-name" : "obs2obs-03",
"submission-id" : 13,
"isStopingIncrement" : "",
"last-update-date" : 1635909057030,
"is-execute-auto" : false,
"delete_rows" : 0,
"write_rows" : 0,
"isDeleteJob" : false,
"creation-user" : "cdmUser",
"progress" : 0,
"creation-date" : 1635909057030,
"update_rows" : 0,
"status" : "PENDING",
"execute-date" : 1635909057030
} ]
} 状态码
| 状态码 | 描述 |
|---|---|
| 200 | OK。 |
错误码
请参见错误码。