文档首页 > > 开发指南(适用于2.x及之前)> Spark应用开发> 调优程序> Spark Core调优> 使用External Shuffle Service提升性能

使用External Shuffle Service提升性能

分享
更新时间:2020/09/29 GMT+08:00

操作场景

Spark系统在运行含shuffle过程的应用时,Executor进程除了运行task,还要负责写shuffle数据,给其他Executor提供shuffle数据。当Executor进程任务过重,导致GC而不能为其他Executor提供shuffle数据时,会影响任务运行。

External shuffle Service是长期存在于NodeManager进程中的一个辅助服务。通过该服务来抓取shuffle数据,减少了Executor的压力,在Executor GC的时候也不会影响其他Executor的任务运行。

操作步骤

  1. 在NodeManager中启动External shuffle Service。
    1. 通过MRS Manager页面(可参考登录MRS Manager)的“服务管理 > Yarn > 服务配置”页面的“Yarn > 自定义”在“yarn-site.xml”中添加如下配置项:
      <property>
          <name>yarn.nodemanager.aux-services</name>
          <value>spark_shuffle</value>
      </property>
      <property>
          <name>yarn.nodemanager.aux-services.spark_shuffle.class</name>
          <value>org.apache.spark.network.yarn.YarnShuffleService</value>
      </property>

      配置参数

      描述

      yarn.nodemanager.aux-services

      NodeManager中一个长期运行的辅助服务,用于提升Shuffle计算性能。

      yarn.nodemanager.aux-services.spark_shuffle.class

      NodeManager中辅助服务对应的类。

    2. 添加依赖的jar包。

      拷贝“${SPARK_HOME}/lib/spark-1.5.1-yarn-shuffle.jar”“${HADOOP_HOME}/share/hadoop/yarn/lib/”目录下。

    3. 重启NodeManager进程,也就启动了External shuffle Service。
  2. Spark应用使用External shuffle Service。
    • 在客户端的安装目录“/Spark/spark/conf/spark-defaults.conf”中必须添加如下配置项:
      spark.shuffle.service.enabled   true
      spark.shuffle.service.port      7337

      配置参数

      描述

      spark.shuffle.service.enabled

      NodeManager中一个长期运行的辅助服务,用于提升Shuffle计算性能。默认为false,表示不启用该功能。

      spark.shuffle.service.port

      Shuffle服务监听数据获取请求的端口。可选配置,默认值为“7337”

      1.如果“yarn.nodemanager.aux-services”配置项已存在,则在value中添加“spark_shuffle”,且用逗号和其他值分开。

      2.“spark.shuffle.service.port”的值需要和上面“yarn-site.xml”中的值一样。

分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!非常感谢您的反馈,我们会继续努力做到更好!
反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问