DWS SQL
背景信息
该节点方便用户在数据开发模块的批处理作业和实时处理作业中执行DWS相关语句,可以使用参数变量为用户的数据仓库进行增量导入,分区处理等操作。
参数
参数 |
是否必选 |
说明 |
---|---|---|
SQL或脚本 |
是 |
可以选择SQL语句或SQL脚本。 |
数据连接 |
是 |
默认选择SQL脚本中设置的数据连接,支持修改。 |
数据库 |
是 |
默认选择SQL脚本中设置的数据库,支持修改。 |
脚本参数 |
否 |
关联的SQL脚本如果使用了参数,此处显示参数名称,请在参数名称后的输入框配置参数值。参数值支持使用EL表达式。 若关联的SQL脚本,脚本参数发生变化,可单击刷新按钮同步。 |
脏数据表 |
否 |
SQL脚本中定义的脏数据表名称。 脏数据属性用户不能编辑,自动从SQL脚本内容中关联推荐。 DWS脏数据表的语法:with table_name或log into table_name |
匹配规则 |
- |
设置java正则表达式,匹配DWS SQL结果内容,比如表达式为(?<=\()(-*\d+?)(?=,), 匹配对应SQL结果为 (1,"error message") ,匹配到的结果为 "1"。 |
失败匹配值 |
- |
当匹配成功的内容等于设置值时,该节点执行失败。 |
节点名称 |
是 |
默认显示为SQL脚本的名称,支持修改。规则如下: 节点名称,可以包含中文、英文字母、数字、“_”、“-”、“/”、“<”、“>”等各类特殊字符,长度为1~128个字符。 默认情况下,节点名称会与选择的脚本名称保持同步。若不需要节点名称和脚本名称同步,请参考禁用作业节点名称同步变化禁用该功能。 |
参数 |
是否必选 |
说明 |
---|---|---|
节点状态轮询时间(秒) |
是 |
设置轮询时间(1~60秒),每隔x秒查询一次节点是否执行完成。 |
节点执行的最长时间 |
是 |
设置节点执行的超时时间,如果节点配置了重试,在超时时间内未执行完成,该节点将会再次重试。 |
失败重试 |
是 |
节点执行失败后,是否重新执行节点。
|
当前节点失败后,后续节点处理策略 |
是 |
节点执行失败后的操作:
|
是否空跑 |
否 |
如果勾选了空跑,该节点不会实际执行,将直接返回成功。 |
任务组 |
否 |
选择任务组。任务组配置好后,可以更细粒度的进行当前任务组中的作业节点的并发数控制,比如作业中包含多个节点、补数据、重跑等场景。 |
参数 |
说明 |
---|---|
输入 |
|
新建 |
单击“新建”,在“类型”的下拉选项中选择要新建的类型。可以选择DWS,OBS,CSS,HIVE,CUSTOM和DLI类型。 |
确定 |
单击“确认”,保存节点输入功能的参数配置。 |
取消 |
单击“取消”,取消节点输入功能的参数配置。 |
编辑 |
单击,修改节点输入功能的参数配置,修改完成后,请保存。 |
删除 |
单击,删除节点输入功能的参数配置。 |
查看表详情 |
单击,查看节点输入血缘关系创建数据表的详细信息。 |
输出 |
|
新建 |
单击“新建”,在“类型”的下拉选项中选择要新建的类型。可以选择DWS,OBS,CSS,HIVE,CUSTOM和DLI类型。 |
确定 |
单击“确认”,保存节点输出功能的参数配置。 |
取消 |
单击“取消”,取消节点输出功能的参数配置。 |
编辑 |
单击,修改节点输出功能的参数配置,修改完成后,请保存。 |
删除 |
单击,删除节点输出功能的参数配置。 |
查看表详情 |
单击,查看节点输出血缘关系创建数据表的详细信息。 |