文档首页/ 数据湖工厂 DLF/ 用户指南/ 参考/ 节点/ MRS Spark Python
更新时间：2022-02-24 GMT+08:00
查看PDF
分享

MRS Spark Python

功能

通过MRS Spark Python节点实现在MRS中执行预先定义的Spark Python作业。

参数

用户可参考表1和表2配置MRS Spark Python节点的参数。

表1 属性参数

参数

是否必选

说明

节点名称

是

节点名称，可以包含中文、英文字母、数字、“_”、“-”、“/”、“<”、“>”等各类特殊字符，长度为1～128个字符。

MRS集群名

是

选择支持spark python的mrs集群。MRS只有特定版本支持spark python的集群，请先测试运行，保证集群支持。

如需新建集群，请参考以下方法：
  • 单击，进入“集群列表”页面新建MRS集群。
  • 前往MRS管理控制台进行新建。

如何新建集群，请参见《MapReduce服务用户指南》的创建集群。

作业名称

是

输入MRS Spark Python作业名称，只能包含英文字母、数字、“_”，且长度为1~64个字符。

参数

是

输入MRS的执行程序参数，多个参数间使用Enter键分隔。

属性

否

输入key=value格式的参数，多个参数间使用Enter键分割。
表2 高级参数

参数

是否必选

说明

节点执行的最长时间

是

设置节点执行的超时时间，如果节点配置了重试，在超时时间内未执行完成，该节点将不会再重试，直接置为失败状态。

失败重试

是

节点执行失败后，是否重新执行节点。

  • 是：重新执行节点，请配置以下参数。
    • 最大重试次数
    • 重试间隔时间（秒）
  • 否：默认值，不重新执行节点。
说明：

如果作业节点配置了重试，并且配置了超时时间，该节点执行超时后将不会再重试，直接置为失败状态。

失败策略

是

节点执行失败后的操作：

  • 终止当前作业执行计划
  • 继续执行下一节点
  • 挂起当前作业执行计划
  • 终止后续节点执行计划
父主题： 节点