创建Flink SQL作业
本章节介绍如何新建Flink SQL作业。Flink SQL是一种由用户根据自己的逻辑需求编写作业的方式。用SQL表达业务逻辑,可以简便快捷的实现业务。目前Flink SQL作业支持两种Flink SQL语句编辑方式:SQL编辑器和可视化编辑器。本章节主要介绍使用SQL编辑器编写Flink SQL作业的方式。
前提条件
创建Flink SQL作业时,需要事先准备数据源以及数据输出通道,具体内容请参见准备数据。
创建Flink SQL作业
- 在DLI管理控制台的左侧导航栏中,单击“Flink作业”页面。 > ,进入
- 在“Flink作业”页面右上角单击“创建作业”,弹出“创建作业”对话框。
- 配置作业信息。
表1 作业配置信息 参数
参数说明
类型
选择“Flink SQL”:用户通过编辑SQL语句来启动作业。
名称
作业名称,只能由字母、中文、数字、中划线和下划线组成,并且长度为1~57字节。
说明:作业名称必须是唯一的。
描述
作业的相关描述,长度为0~512字节。
模板名称
当编辑器选择“SQL编辑器”时,该参数有效。
用户可以选择样例模板或自定义的作业模板。关于模板的详细信息,请参见Flink模板管理。
- 单击“确定”,进入作业 页面。
- 编辑SQL作业。
在SQL语句编辑区域,输入详细的SQL语句。相关SQL语句请参考《数据湖探索SQL语法参考》。
- 单击“语义校验”,确保语义校验成功。
- 只有语义校验成功后,才可以执行“调试”或“启动”作业的操作。
- 如果校验成功,提示“SQL语义校验成功”。
- 如果校验失败,会在错误的SQL语句前面显示红色的“X”记号,鼠标移动到“X”号上可查看详细错误,请根据错误提示修改SQL语句。
- 设置作业运行参数。
表2 作业运行参数说明 参数
参数说明
CU数量
CU数量为DLI的计算单元数量和管理单元数量总和,1CU=1核4G。
管理单元
管理单元CU数量。
最大并行数
最大并行数是指同时运行Flink SQL作业的最大任务数。
说明:最大并行数不能大于计算单元(CU数量-管理单元)的4倍。
TaskManager配置
用于设置TaskManager资源参数。
勾选后需配置下列参数:
- “单TM所占CU数”:每个TaskManager占用的资源数量。
- “单TM Slot”:每个TaskManager包含的Slot数量。
保存作业日志
设置是否将作业运行时的日志信息保存到OBS。
勾选后需配置下列参数:
“OBS桶”:选择OBS桶用于保存用户作业日志信息。如果选择的OBS桶是未授权状态,需要单击“OBS授权”。说明:如果同时勾选了“开启Checkpoint”和“保存作业日志”,OBS授权一次即可。
作业异常告警
设置是否将作业异常告警信息,如作业出现运行异常或者欠费情况,以SMN的方式通知用户。
勾选后需配置下列参数:
“SMN主题”:
选择一个自定义的SMN主题。如何自定义SMN主题,请参见《消息通知服务用户指南》中“创建主题”章节。
开启Checkpoint
设置是否开启作业快照,开启后可基于Checkpoint(一致性检查点)恢复作业。
勾选后需配置下列参数:- “Checkpoint间隔”:Checkpoint的时间间隔,单位为秒,输入范围 1~999999,默认值为10s。
- “Checkpoint 模式”:支持如下两种模式:
- AtLeastOnce:事件至少被处理一次。
- ExactlyOnce:事件仅被处理一次。
- “OBS桶”:选择OBS桶用于保存用户Checkpoint。如果选择的OBS桶是未授权状态,需要单击“OBS授权”。
说明:
如果同时勾选了“开启Checkpoint”和“保存作业日志”,OBS授权一次即可。
异常自动重启
设置是否启动异常自动重启功能,当作业异常时将自动重启并恢复作业。
勾选后需配置下列参数:
“从Checkpoint恢复”:需要同时勾选“开启Checkpoint”才可配置该参数。
空闲状态保留时长
用于清除GroupBy或Window经过最大保留时间后仍未更新的中间状态,默认设置为1小时。
脏数据策略
选择处理脏数据的策略。支持如下三种策略:“忽略”,“抛出异常”和“保存”。
说明:“保存”是指将脏数据保存到OBS桶中。
脏数据转储地址
“脏数据策略”选择“保存”时,配置该参数。单击地址框选择保存脏数据的OBS路径。
所属队列
默认选择“共享队列”,用户也可以选择自定义的独享队列。
选择“独享队列”时需配置以下参数:
“UDF Jar”:在选择UDF Jar之前需要将对应的jar包上传至OBS桶中,并在 中创建程序包,具体操作请参考创建程序包。
用户可以在SQL中调用插入Jar包中的自定义函数。
说明:当子用户在创建作业时,子用户只能选择已经被分配的队列。
当所选择队列的剩余容量不能满足作业需求时,系统会自动扩容,将按照增加的容量计费。当队列空闲时,系统也会自动缩容。
UDF Jar
用户自定义UDF文件,可通过“程序包管理”功能上传到数据湖探索服务使用。
- 单击“保存”,保存作业和相关参数。
- 单击“启动”,进入“启动Flink作业”页面,确认作业规格后,单击“立即启动”,启动作业。
启动作业后,系统将自动跳转到Flink作业管理页面,新创建的作业将显示在作业列表中,在
列中可以查看作业状态。作业提交成功后,状态将由 变为 。运行完成后显示“已完成”。如果作业状态为
或 ,表示作业提交或运行失败。用户可以在作业列表中的 列中,将鼠标移动到状态图标上查看错误信息,单击可以复制错误信息。根据错误信息解决故障后,重新提交。其他功能按钮说明如下:
- 另存为:将新建作业另存为一个新作业。
- 调试:对作业进行调试。具体操作请参见调试作业。
- 格式化:对SQL语句进行格式化。
- 设为模板:将新创建的作业设置为作业模板。
- 主题设置:设置页面主题,可以设置字体大小,自动换行和页面风格。