查询转储任务详情
功能介绍
查询转储任务详情。
URI
GET /v2/{project_id}/streams/{stream_name}/transfer-tasks/{task_name}
参数 |
是否必选 |
参数类型 |
描述 |
---|---|---|---|
project_id |
是 |
String |
项目ID。 |
stream_name |
是 |
String |
已创建的通道的名称。 |
task_name |
是 |
String |
待删除的转储任务名称。 |
请求参数
参数 |
是否必选 |
参数类型 |
描述 |
---|---|---|---|
X-Auth-Token |
是 |
String |
用户Token。 通过调用IAM服务获取用户Token接口获取(响应消息头中X-Subject-Token的值)。 |
响应参数
状态码: 200
参数 |
参数类型 |
描述 |
---|---|---|
stream_name |
String |
该转储任务所属通道名称。 |
task_name |
String |
转储任务名称。 |
state |
String |
转储任务状态。
枚举值:
|
destination_type |
String |
转储任务类型。
枚举值:
|
create_time |
Long |
转储任务创建时间。 |
last_transfer_timestamp |
Long |
转储任务最近一次转储时间。 |
partitions |
Array of PartitionResult objects |
分区转储详情列表。 |
obs_destination_description |
转储目的地为OBS的参数列表。 |
|
dws_destination_descripton |
转储目的地为DWS的参数列表。 |
|
mrs_destination_description |
转储目的地为MRS的参数列表。 |
|
dli_destination_description |
转储目的地为DLI的参数列表。 |
|
cloudtable_destination_descripton |
转储目的地为CloudTable的参数列表。 |
参数 |
参数类型 |
描述 |
---|---|---|
status |
String |
分区的当前状态。
枚举值:
|
partition_id |
String |
分区的唯一标识符。 |
hash_range |
String |
分区的可能哈希键值范围。 |
sequence_number_range |
String |
分区的序列号范围。 |
parent_partitions |
String |
父分区。 |
参数 |
参数类型 |
描述 |
---|---|---|
task_name |
String |
转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 |
agency_name |
String |
在统一身份认证服务(IAM)中创建委托的名称,DIS需要获取IAM委托信息去访问您指定的资源。创建委托的参数设置如下:
如果有在Console控制台使用转储任务,会提示自动创建委托,自动创建的委托名称为:dis_admin_agency 最大长度:64 |
deliver_time_interval |
Integer |
根据用户配置的时间,周期性的将数据导入OBS,若某个时间段内无数据,则此时间段不会生成打包文件。 取值范围:30~900 缺省值:300 单位:秒 最小值:30 最大值:900 缺省值:300 |
consumer_strategy |
String |
偏移量。
缺省值:LATEST 缺省值:LATEST 枚举值:
|
file_prefix |
String |
在OBS中存储通道文件的自定义目录,多级目录可用“/”进行分隔,不可以“/”开头。 取值范围:英文字母、数字、下划线和斜杠,最大长度为50个字符。 默认配置为空。 最大长度:50 |
partition_format |
String |
将转储文件的生成时间使用“yyyy/MM/dd/HH/mm”格式生成分区字符串,用来定义写到OBS的Object文件所在的目录层次结构。
例如:2017/11/10/14/49,目录结构就是“2017 > 11 > 10 > 14 > 49”,“2017”表示最外层文件夹。 默认值:空 说明: 数据转储成功后,存储的目录结构为“obs_bucket_path/file_prefix/partition_format”。 枚举值:
|
obs_bucket_path |
String |
存储该通道数据的OBS桶名称。 |
destination_file_type |
String |
转储文件格式。
说明: “源数据类型”为“JSON”,“转储服务类型”为“OBS”时才可选择“parquet”或“carbon”格式。 缺省值:text 枚举值:
|
processing_schema |
ProcessingSchema object |
根据源数据的时间戳和已配置的"partition_format"生成对应的转储时间目录。将源数据的时间戳使用“yyyy/MM/dd/HH/mm”格式生成分区字符串,用来定义写到OBS的Object文件所在的目录层次结构。 |
record_delimiter |
String |
转储文件的记录分隔符,用于分隔写入转储文件的用户数据。 取值范围:
缺省值:\n |
参数 |
参数类型 |
描述 |
---|---|---|
timestamp_name |
String |
源数据时间戳的属性名称。 |
timestamp_type |
String |
源数据时间戳的类型。
|
timestamp_format |
String |
源数据时间戳的类型为String时必选,用于根据时间戳格式生成OBS的时间目录。 取值范围:
枚举值:
|
参数 |
参数类型 |
描述 |
---|---|---|
task_name |
String |
转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 |
agency_name |
String |
在统一身份认证服务(IAM)中创建委托的名称,DIS需要获取IAM委托信息去访问您指定的资源。创建委托的参数设置如下:
如果有在Console控制台使用转储任务,会提示自动创建委托,自动创建的委托名称为:dis_admin_agency 最大长度:64 |
deliver_time_interval |
Integer |
根据用户配置的时间,周期性的将数据导入OBS,若某个时间段内无数据,则此时间段不会生成打包文件。 取值范围:30~900 缺省值:300 单位:秒 最小值:30 最大值:900 缺省值:300 |
consumer_strategy |
String |
偏移量。
缺省值:LATEST 缺省值:LATEST 枚举值:
|
dws_cluster_name |
String |
存储该通道数据的DWS集群名称。 |
dws_cluster_id |
String |
存储该通道数据的DWS集群ID。 |
dws_database_name |
String |
存储该通道数据的DWS数据库名称。 |
dws_schema |
String |
存储该通道数据的DWS数据库模式。 |
dws_table_name |
String |
存储该通道数据的DWS数据库模式下的数据表。 |
dws_delimiter |
String |
用户数据的字段分隔符,根据此分隔符分隔用户数据插入DWS数据表的相应列。 取值范围:“,”、“;”和“|”三种字符中的一个。 |
user_name |
String |
存储该通道数据的DWS数据库的用户名。 |
user_password |
String |
存储该通道数据的DWS数据库的密码。 |
kms_user_key_name |
String |
用户在密钥管理服务(简称KMS)创建的用户主密钥名称,用于加密存储DWS数据库的密码。 |
kms_user_key_id |
String |
用户在密钥管理服务(简称KMS)创建的用户主密钥ID,用于加密存储DWS数据库的密码。 |
obs_bucket_path |
String |
临时存储该通道数据的OBS桶名称。 |
file_prefix |
String |
临时存储该通道数据的OBS桶下的自定义目录,多级目录可用“/”进行分隔,不可以“/”开头。 取值范围:英文字母、数字、下划线和斜杠,最大长度为50个字符。 默认配置为空。 |
retry_duration |
String |
用户数据导入DWS集群失败的重试失效时间。超出此配置项配置的时间,转储DWS失败的数据将备份至“OBS桶/ file_prefix/dws_error”目录下。 取值范围: 0~7200 单位:秒 默认配置为1800。 |
dws_table_columns |
String |
指定要转储到DWS表中的列,为null或者为空则默认全列。比如“c1,c2”表示将Schema中c1和c2这两列转储到DWS。 默认为空。 |
options |
Options object |
DWS容错性选项(用于指定外表数据的各类参数)。 |
参数 |
参数类型 |
描述 |
---|---|---|
fill_missing_fields |
String |
数据入库时,数据源文件中某行的最后一个字段缺失时,请选择是直接将字段设为Null,还是在错误表中报错提示。 取值范围:
缺省值:false/off 枚举值:
|
ignore_extra_data |
String |
数据源文件中的字段比外表定义列数多时,是否忽略多出的列。该参数只在数据导入过程中使用。 取值范围:
缺省值:false/off 枚举值:
|
compatible_illegal_chars |
String |
导入非法字符容错参数。是将非法字符按照转换规则转换后入库,还是报错中止导入。 取值范围:
缺省值:false/off 枚举值:
|
reject_limit |
String |
指定本次数据导入允许出现的数据格式错误个数,当导入过程中出现的数据格式错误未达到限定值时,本次数据导入可以成功。 取值范围:
缺省值为0,有错误信息立即返回。 |
error_table_name |
String |
用于记录数据格式错误信息的错误表表名。并行导入结束后查询此错误信息表,能够获取详细的错误信息。 |
参数 |
参数类型 |
描述 |
---|---|---|
task_name |
String |
转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 |
agency_name |
String |
在统一身份认证服务(IAM)中创建委托的名称,DIS需要获取IAM委托信息去访问您指定的资源。创建委托的参数设置如下:
如果有在Console控制台使用转储任务,会提示自动创建委托,自动创建的委托名称为:dis_admin_agency 最大长度:64 |
deliver_time_interval |
Integer |
根据用户配置的时间,周期性的将数据导入OBS,若某个时间段内无数据,则此时间段不会生成打包文件。 取值范围:30~900 缺省值:300 单位:秒 最小值:30 最大值:900 缺省值:300 |
consumer_strategy |
String |
偏移量。
缺省值:LATEST 缺省值:LATEST 枚举值:
|
mrs_cluster_name |
String |
存储该通道数据的MRS集群名称。 说明: 仅支持非Kerberos认证的MRS集群。 |
mrs_cluster_id |
String |
存储该通道数据的MRS集群ID。 |
mrs_hdfs_path |
String |
存储该通道数据的MRS集群的HDFS路径。 |
file_prefix |
String |
临时存储该通道数据的OBS桶下的自定义目录,多级目录可用“/”进行分隔,不可以“/”开头。 取值范围:英文字母、数字、下划线和斜杠,最大长度为50个字符。 默认配置为空。 |
hdfs_prefix_folder |
String |
在MRS集群HDFS中存储通道文件的自定义目录,多级目录可用"/"进行分隔。 取值范围:0~50个字符。 默认配置为空。 |
obs_bucket_path |
String |
临时存储该通道数据的OBS桶名称。 |
retry_duration |
String |
用户数据转储失败的失效重试时间。重试时间超过该配置项配置的值,则将转储失败的数据备份至“OBS桶/ file_prefix/mrs_error”目录下。 取值范围:0~7200。 单位:秒。 默认配置为1800。 配置为“0”表示DIS服务不会在转储失败时进行重试。 |
参数 |
参数类型 |
描述 |
---|---|---|
task_name |
String |
转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 |
agency_name |
String |
在统一身份认证服务(IAM)中创建委托的名称,DIS需要获取IAM委托信息去访问您指定的资源。创建委托的参数设置如下:
如果有在Console控制台使用转储任务,会提示自动创建委托,自动创建的委托名称为:dis_admin_agency 最大长度:64 |
deliver_time_interval |
Integer |
根据用户配置的时间,周期性的将数据导入OBS,若某个时间段内无数据,则此时间段不会生成打包文件。 取值范围:30~900 缺省值:300 单位:秒 最小值:30 最大值:900 缺省值:300 |
consumer_strategy |
String |
偏移量。
缺省值:LATEST 缺省值:LATEST 枚举值:
|
dli_database_name |
String |
存储该通道数据的DLI数据库名称。 |
dli_table_name |
String |
存储该通道数据的DLI表名称。 说明: 仅支持数据位置为DLI的表,且用户需具有该表的插入权限。 |
obs_bucket_path |
String |
临时存储该通道数据的OBS桶名称。 |
file_prefix |
String |
临时存储该通道数据的OBS桶下的自定义目录,多级目录可用“/”进行分隔,不可以“/”开头。 取值范围:英文字母、数字、下划线和斜杠,最大长度为50个字符。 默认配置为空。 |
retry_duration |
String |
用户数据导入DLI失败的失效重试时间。重试时间超过该配置项配置的值,则将转储失败的数据备份至“OBS桶/ file_prefix/dli_error”目录下。 取值范围:0~7200。 单位:秒。 默认配置为1800。 配置为“0”表示DIS服务不会在转储失败时进行重试。 |
参数 |
参数类型 |
描述 |
---|---|---|
task_name |
String |
转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 |
agency_name |
String |
在统一身份认证服务(IAM)中创建委托的名称,DIS需要获取IAM委托信息去访问您指定的资源。创建委托的参数设置如下:
如果有在Console控制台使用转储任务,会提示自动创建委托,自动创建的委托名称为:dis_admin_agency 最大长度:64 |
deliver_time_interval |
Integer |
根据用户配置的时间,周期性的将数据导入OBS,若某个时间段内无数据,则此时间段不会生成打包文件。 取值范围:30~900 缺省值:300 单位:秒 最小值:30 最大值:900 缺省值:300 |
consumer_strategy |
String |
偏移量。
缺省值:LATEST 缺省值:LATEST 枚举值:
|
cloudtable_cluster_name |
String |
存储该通道数据的CloudTable集群名称。 如果选择转储OpenTSDB,则集群必须开启OpenTSDB。 |
cloudtable_cluster_id |
String |
存储该通道数据的CloudTable集群ID。 如果选择转储OpenTSDB,则集群必须开启OpenTSDB。 |
cloudtable_table_name |
String |
转储HBase时必选,表示存储该通道数据的CloudTable集群HBase表名称。 |
cloudtable_schema |
CloudtableSchema object |
转储HBase时必选,与“opentsdb_schema”二选一,表示CloudTable集群HBase数据的Schema配置。用于将通道内的JSON数据进行格式转换并导入Cloudtable的HBase表中。 |
opentsdb_schema |
Array of OpenTSDBSchema objects |
转储OpenTSDB时必选,与“cloudtable_schema”二选一,表示CloudTable集群OpenTSDB数据的Schema配置。用于将通道内的JSON数据进行格式转换并导入Cloudtable的OpenTSDB。 |
cloudtable_row_key_delimiter |
String |
转储HBase的rowkey分隔符,用于分隔生成rowKey的用户数据。取值范围:”, ”、 ”. ”、 ”|”、 ”; ”、 ”\”、 ”-”、 ”_”、 ”~” 缺省值:”.” |
obs_backup_bucket_path |
String |
用户数据转储CloudTable服务失败时,可选择将转储失败的数据备份至OBS服务,此参数为OBS服务的桶名称。 |
backup_file_prefix |
String |
用户数据转储CloudTable服务失败时,可选择将转储失败的数据备份至OBS服务,此参数为OBS桶下的自定义目录,多级目录可用“/”进行分隔,不可以“/”开头。 取值范围:英文字母、数字和下划线。 最大长度:最大长度为50个字符。 默认配置为空。 |
retry_duration |
String |
用户数据导入CloudTable服务失败的失效重试时间。超出此时效,转储CloudTable失败的数据将备份至“OBS桶/ backup_file_prefix /cloudtable_error”或“OBS桶/ backup_file_prefix /opentsdb_error”目录下。 取值范围: 0~7200 单位:秒 默认配置为1800。 |
参数 |
参数类型 |
描述 |
---|---|---|
row_key |
Array of RowKey objects |
CloudTable集群HBase数据rowkey的Schema配置,用于将通道内的JSON数据生成HBase数据的rowkey。 取值范围:1~64。 |
columns |
Array of Column objects |
CloudTable集群HBase数据列的Schema配置,用于将通道内的JSON数据生成HBase数据的列。 取值范围:1~4096。 |
参数 |
参数类型 |
描述 |
---|---|---|
value |
String |
通道内JSON数据的JSON属性名,用于生成HBase数据的rowkey。 |
type |
String |
通道内JSON数据的JSON属性的类型名称。 取值范围:
枚举值:
|
参数 |
参数类型 |
描述 |
---|---|---|
column_family_name |
String |
存储该通道数据的HBase表数据的列族名称。 |
column_name |
String |
存储该通道数据的HBase表数据的列名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 |
value |
String |
通道内JSON数据的JSON属性名,用于生成HBase数据的列值。 |
type |
String |
通道内JSON数据的JSON属性的类型名称。 取值范围:
枚举值:
|
参数 |
参数类型 |
描述 |
---|---|---|
metric |
Array of OpenTSDBMetric objects |
CloudTable集群OpenTSDB数据metric的Schema配置,用于将通道内的JSON数据进行格式转换生成OpenTSDB数据的metric。 |
timestamp |
OpenTSDBTimestamp object |
CloudTable集群OpenTSDB 数据timestamp的Schema配置,用于将通道内的JSON数据进行格式转换生成OpenTSDB数据的timestamp。 |
value |
OpenTSDBValue object |
CloudTable集群OpenTSDB 数据value的Schema配置,用于将通道内的JSON数据进行格式转换生成OpenTSDB 数据的value。 |
tags |
Array of OpenTSDBTags objects |
CloudTable集群OpenTSDB数据tags的Schema配置,用于将通道内的JSON数据进行格式转换生成OpenTSDB数据的tags。 |
参数 |
参数类型 |
描述 |
---|---|---|
type |
String |
枚举值:
|
value |
String |
常量或通道内用户数据的JSON属性名称。 取值范围:1~32,只能包含英文字母、数字和点。 |
参数 |
参数类型 |
描述 |
---|---|---|
type |
String |
|
value |
String |
通道内用户数据的JSON属性名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 |
format |
String |
“type”为“String”类型时必选。表示通道内用户数据对应JSON属性的取值为Date格式,需要根据format字段进行数据格式转换生成OpenTSDB的timestamp。 取值范围:
枚举值:
|
请求示例
查询转储任务详情
GET https://{Endpoint}/v2/{project_id}/streams/{stream_name}/transfer-tasks/{task_name}
响应示例
状态码: 200
正常返回
{ "stream_id" : "RdMFID6edQdf8eDzc9e", "stream_name" : "newstream", "task_name" : "newtask", "task_id" : "As805BudhcH1lDs6gbn", "destination_type" : "OBS", "state" : "RUNNING", "create_time" : 1606554932552, "last_transfer_timestamp" : 1606984428612, "obs_destination_description" : { "agency_name" : "dis_admin_agency", "file_prefix\"" : "", "partition_format" : "yyyy/MM/dd", "obs_bucket_path" : "obsbucket", "deliver_time_interval" : 60, "consumer_strategy" : "LATEST", "retry_duration" : 0, "destination_file_type" : "text", "record_delimiter" : "\n" }, "partitions" : [ { "partitionId" : "shardId-0000000000", "discard" : 0, "state" : "RUNNING", "last_transfer_timestamp" : 1606984428612, "last_transfer_offset" : 289897 } ] }
状态码
状态码 |
描述 |
---|---|
200 |
正常返回 |
错误码
请参见错误码。