MRS Spark SQL
功能
通过MRS Spark SQL节点执行数据开发模块中预先定义的Spark SQL脚本。
Spark是一个开源的，并行数据处理框架，能够帮助用户简单、快速地开发大数据应用，对数据进行离线处理、流式处理、交互式分析等。
参数
用户可参考表1，表2和表3配置MRS Spark SQL节点的参数。
|
参数 |
是否必选 |
说明 |
|---|---|---|
|
MRS作业名称 |
否 |
MRS的作业名称。 如果未设置MRS作业名称且选择直连模式时，节点名称只能由英文字母、数字、中划线和下划线组成，长度不能超过64个字符，不能包含中文字符。 系统支持MRS作业名称按照作业名称_节点名称格式自动填入。 |
|
SQL脚本 |
是 |
|
|
数据连接 |
是 |
默认选择SQL脚本中设置的数据连接，支持修改。 |
|
MRS资源队列 |
否 |
选择已创建好的MRS资源队列。
说明：
|
|
数据库 |
是 |
默认选择SQL脚本中设置的数据库，支持修改。 MRS API连接方式下不支持选择数据库。 |
|
脚本参数 |
否 |
关联的SQL脚本如果使用了参数，此处显示参数名称，请在参数名称后的输入框配置参数值。参数值支持使用EL表达式。 若关联的SQL脚本，脚本参数发生变化，可单击刷新按钮 |
|
运行程序参数 |
否 |
为本次执行的作业配置相关优化参数（例如线程、内存、CPU核数等），用于优化资源使用效率，提升作业的执行性能。
说明：
MRS SparkSQL作业的运行程序参数，请参见《MapReduce用户指南》中的“运行SparkSql作业 > 表2 运行程序参数”。 |
|
节点名称 |
是 |
默认显示为SQL脚本的名称，支持修改。 节点名称只能由字母、数字、中划线和下划线组成，并且长度为1～64个字符。
说明：
节点名称不得包含中文字符、超出长度限制等。如果节点名称不符合规则，将导致提交MRS作业失败。 默认情况下，节点名称会与选择的脚本名称保持同步。若不需要节点名称和脚本名称同步，请参考禁用作业节点名称同步变化禁用该功能。 |
|
参数 |
是否必选 |
说明 |
|---|---|---|
|
节点状态轮询时间（秒） |
是 |
设置轮询时间（1~60秒），每隔x秒查询一次节点是否执行完成。 |
|
节点执行的最长时间 |
是 |
设置节点执行的超时时间，如果节点配置了重试，在超时时间内未执行完成，该节点将会再次重试。 |
|
失败重试 |
是 |
节点执行失败后，是否重新执行节点。
|
|
当前节点失败后，后续节点处理策略 |
是 |
节点执行失败后的操作：
|
|
是否空跑 |
否 |
如果勾选了空跑，该节点不会实际执行，将直接返回成功。 |
|
任务组 |
否 |
选择任务组。任务组配置好后，可以更细粒度地进行当前任务组中的作业节点的并发数控制，比如作业中包含多个节点、补数据、重跑等场景。 |
|
参数 |
说明 |
|---|---|
|
输入 |
|
|
新建 |
单击“新建”，在“类型”的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM和DLI类型。 |
|
确定 |
单击“确认”，保存节点输入功能的参数配置。 |
|
取消 |
单击“取消”，取消节点输入功能的参数配置。 |
|
编辑 |
单击 |
|
删除 |
单击 |
|
查看表详情 |
单击 |
|
输出 |
|
|
新建 |
单击“新建”，在“类型”的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM和DLI类型。 |
|
确定 |
单击“确认”，保存节点输出功能的参数配置。 |
|
取消 |
单击“取消”，取消节点输出功能的参数配置。 |
|
编辑 |
单击 |
|
删除 |
单击 |
|
查看表详情 |
单击 |
