更新时间:2022-05-13 GMT+08:00
分享

配置JobHistory本地磁盘缓存

配置场景

JobHistory可使用本地磁盘缓存spark应用的历史数据,以防止JobHistory内存中加载大量应用数据,减少内存压力,同时该部分缓存数据可以复用以提高后续对相同应用的访问速度。

配置参数

登录FusionInsight Manager系统,选择“集群 > 待操作集群的名称 > 服务 > Spark2x > 配置”,单击“全部配置”,搜索以下参数。

参数

说明

默认值

spark.history.store.path

JobHistory缓存历史信息的本地目录,如果设置了此配置,则JobHistory会将历史应用数据缓存在本地磁盘而不是内存中

${BIGDATA_HOME}/tmp/spark2x_JobHistory

spark.history.store.maxDiskUsage

JobHistory本地磁盘缓存的最大可用空间

10g

分享:

    相关文档

    相关产品

close