# MRS Spark SQL #### 功能 通过MRS Spark SQL节点执行数据开发模块中预先定义的Spark SQL脚本。 Spark是一个开源的，并行数据处理框架，能够帮助用户简单、快速地开发大数据应用，对数据进行离线处理、流式处理、交互式分析等。 #### 参数 用户可参考[表1]，[表2]和[表3]配置MRS Spark SQL节点的参数。 表1属性参数 | 参数 | 是否必选 | 说明 | |:---|:---|:---| | MRS作业名称 | 否 | MRS的作业名称。 如果未设置MRS作业名称且选择直连模式时，节点名称只能由英文字母、数字、中划线和下划线组成，长度不能超过64个字符，不能包含中文字符。 系统支持MRS作业名称按照**作业名称_节点名称**格式自动填入。 | | SQL脚本 | 是 | 选择需要执行的脚本。如果脚本未创建，请参考[新建脚本](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0423.html)和[开发SQL脚本](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0424.html)先创建和开发脚本。 说明： 脚本传递参数给作业节点时，参数数量最多不能超过50个，参数名长度不能超过64个字符，且参数值长度不能超过256个字符。 | | 数据连接 | 是 | 默认选择SQL脚本中设置的数据连接，支持修改。 | | MRS资源队列 | 否 | 选择已创建好的MRS资源队列。 如果配置了[资源队列映射](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_04501.html#dataartsstudio_01_04501__section1446735121017)，选择MRS资源队列后，该参数底下会显示补数据队列映射名称。该功能当前仅支持简单模式，不支持企业模式。 说明： - 数据连接为代理连接时不支持为Spark SQL作业独立配置需要的资源（例如线程、内存、CPU核数并指定MRS资源队列等），MRS API连接时支持。 - 您需要先在数据安全组件中配置对应的队列（参考[配置队列权限](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_1162.html)，）后，才能在此处选择到已配置的队列。当有多处同时配置了资源队列时，此处配置的资源队列为最高优先级。 | | 数据库 | 是 | 默认选择SQL脚本中设置的数据库，支持修改。 MRS API连接方式下不支持选择数据库。 | | 脚本参数 | 否 | 关联的SQL脚本如果使用了参数，此处显示参数名称，请在参数名称后的输入框配置参数值。参数值支持使用[EL表达式](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_0494.html)。 若关联的SQL脚本，脚本参数发生变化，可单击刷新按钮![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0171784900.png)同步。 | | 运行程序参数 | 否 | 为本次执行的作业配置相关优化参数（例如线程、内存、CPU核数等），用于优化资源使用效率，提升作业的执行性能。 说明： - 数据连接为代理连接时不支持为Spark SQL作业独立配置需要的资源（例如线程、内存、CPU核数并指定MRS资源队列等），MRS API连接时支持。 - 若集群为MRS 1.8.7版本或MRS 2.0.1之后版本，需要配置此参数。 MRS SparkSQL作业的运行程序参数，请参见《MapReduce用户指南》中的"[运行SparkSql作业](https://support.huaweicloud.com/usermanual-mrs/mrs_01_0526.html) \> 表2 运行程序参数"。 | | 节点名称 | 是 | 默认显示为SQL脚本的名称，支持修改。 节点名称只能由字母、数字、中划线和下划线组成，并且长度为1～64个字符。 说明： 节点名称不得包含中文字符、超出长度限制等。如果节点名称不符合规则，将导致提交MRS作业失败。 默认情况下，节点名称会与选择的脚本名称保持同步。若不需要节点名称和脚本名称同步，请参考[禁用作业节点名称同步变化](https://support.huaweicloud.com/usermanual-dataartsstudio/dataartsstudio_01_04501.html#dataartsstudio_01_04501__section67661828112219)禁用该功能。 | 表2高级参数 | 参数 | 是否必选 | 说明 | |:---|:---|:---| | 节点状态轮询时间（秒） | 是 | 设置轮询时间（1\~60秒），每隔x秒查询一次节点是否执行完成。 | | 节点执行的最长时间 | 是 | 设置节点执行的超时时间，如果节点配置了重试，在超时时间内未执行完成，该节点将会再次重试。 | | 失败重试 | 是 | 节点执行失败后，是否重新执行节点。 - 是：重新执行节点，请配置以下参数。 - 超时重试 - 最大重试次数 - 重试间隔时间（秒） - 否：默认值，不重新执行节点。 说明： 如果作业节点配置了重试，并且配置了超时时间，该节点执行超时后，系统支持再重试。 当节点运行超时导致的失败不会重试时，您可前往"默认项设置"修改此策略。 当"失败重试"配置为"是"才显示"超时重试"。 | | 当前节点失败后，后续节点处理策略 | 是 | 节点执行失败后的操作： - 终止后续节点执行计划：停止后续节点的运行，当前作业实例状态显示为"失败"。 - 终止当前作业执行计划：停止当前作业运行，当前作业实例状态显示为"失败"。 - 继续执行下一节点：忽略当前节点失败，当前作业实例状态显示为"忽略失败"。 - 挂起当前作业执行计划：当前作业实例的状态为运行异常，该节点的后续节点以及依赖于当前作业的后续作业实例都会处于等待运行状态。 | | 是否空跑 | 否 | 如果勾选了空跑，该节点不会实际执行，将直接返回成功。 | | 任务组 | 否 | 选择任务组。任务组配置好后，可以更细粒度地进行当前任务组中的作业节点的并发数控制，比如作业中包含多个节点、补数据、重跑等场景。 | 表3血缘关系 | 参数 | 说明 | |:---|:---| | **输入** || | 新建 | 单击"新建"，在"类型"的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM和DLI类型。 | | 确定 | 单击"确认"，保存节点输入功能的参数配置。 | | 取消 | 单击"取消"，取消节点输入功能的参数配置。 | | 编辑 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079518.png)，修改节点输入功能的参数配置，修改完成后，请保存。 | | 删除 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079519.png)，删除节点输入功能的参数配置。 | | 查看表详情 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079520.png)，查看节点输入血缘关系创建数据表的详细信息。 | | **输出** || | 新建 | 单击"新建"，在"类型"的下拉选项中选择要新建的类型。可以选择DWS，OBS，CSS，HIVE，CUSTOM，CloudTable和DLI类型。 | | 确定 | 单击"确认"，保存节点输出功能的参数配置。 | | 取消 | 单击"取消"，取消节点输出功能的参数配置。 | | 编辑 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079533.png)，修改节点输出功能的参数配置，修改完成后，请保存。 | | 删除 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079534.png)，删除节点输出功能的参数配置。 | | 查看表详情 | 单击![](https://support.huaweicloud.com/usermanual-dataartsstudio/zh-cn_image_0253079536.png)，查看节点输出血缘关系创建数据表的详细信息。 |