默认值 描述 spark.driver.memory 4G 指定用于driver端进程的内存，其中SparkContext已初始化。 说明： 在客户端模式下，不要使用SparkConf在应用程序中设置该参数，因为驱动程序JVM已经启动。要配置该参数，请在--driver-memory命令行选项或默认属性文件中进行配置。

查看更多 →

描述 示例 Name ENV名称。 spark-env Type ENV类型。 spark Driver Memory Driver内存大小，单位默认为GB。 1GB Executor Memory 每个Executor进程的内存 ，和JVM内存串拥有相同的格式，单位默认为GB。 1GB

查看更多 →

Spark性能优化 概述 Spark是基于内存的分布式计算框架。在迭代计算的场景下，数据处理过程中的数据可以存储在内存中，提供了比MapReduce高10到100倍的计算能力。Spark可以使用HDFS作为底层存储，使用户能够快速地从MapReduce切换到Spark计算平台上去

查看更多 →

默认值 描述 spark.driver.memory 4G 指定用于driver端进程的内存，其中SparkContext已初始化。 说明： 在客户端模式下，不要使用SparkConf在应用程序中设置该参数，因为驱动程序JVM已经启动。要配置该参数，请在--driver-memory命令行选项或默认属性文件中进行配置。

查看更多 →

String 否 Spark应用Executor的个数。该配置项会替换sc_type中对应的默认参数。 -dc / --driver-cores String 否 Spark应用Driver的CPU核数。该配置项会替换sc_type中对应的默认参数。 -dm / --driver-memory

查看更多 →

归档日志 在OBS目录下，获取归档日志文件夹，详细如下。 Spark SQL作业： 查看带有“driver”或者为“container_xxx_000001”的日志文件夹则为需要查看的Driver日志目录。 图2 带有driver的归档日志文件夹名示例 图3 container_xxx_000001归档日志文件夹示例

查看更多 →

Spark动态分区插入场景内存优化 操作场景 SparkSQL在往动态分区表中插入数据时，分区数越多，单个Task生成的HDFS文件越多，则元数据占用的内存也越多。这就导致程序GC（Gabage Collection）严重，甚至发生OOM（Out of Memory）。 经测试证

查看更多 →

Properties import org.apache.spark.sql.{Row,SparkSession} import org.apache.spark.sql.SaveMode 创建会话。 1 val sparkSession = SparkSession.builder().getOrCreate()

查看更多 →

JD BCS erver2x进程直接内存使用超出阈值 告警解释 系统每30秒周期性检测JDB CS erver2x进程直接内存使用状态，当检测到JDBCServer2x进程直接内存使用率超出阈值（最大内存的95%）时产生该告警。 MRS 3.3.0-LTS及之后的版本中，Spark2x服务改名为Spark，服务包

查看更多 →

collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。

查看更多 →

collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。

查看更多 →

collect操作会将Executor的数据发送到Driver端，因此使用collect前需要确保Driver端内存足够，以免Driver进程发生OutOfMemory异常。当不确定数据量大小时，可使用saveAsTextFile等操作把数据写入HDFS中。只有在能够大致确定数据大小且driver内存充足的时候，才能使用collect。

查看更多 →

就可能会造成内存不足，driver gc等问题。 所以为了在小内存模式下能加载较大日志文件，需要对大应用开启日志滚动功能。一般情况下，长时间运行的应用建议打开该功能。 配置参数 登录 FusionInsight Manager系统，选择“集群 > 服务 > Spark2x > 配置”，单击“全部配置”，搜索以下参数。

查看更多 →

就可能会造成内存不足，driver gc等问题。 所以为了在小内存模式下能加载较大日志文件，需要对大应用开启日志滚动功能。一般情况下，长时间运行的应用建议打开该功能。 配置参数 登录FusionInsight Manager系统，选择“集群 > 服务 > Spark2x > 配置”，单击“全部配置”，搜索以下参数。

查看更多 →

5版本，无需执行安装操作。 如果未查到PV driver版本信息，或者PV driver的版本低于或等于2.5版本，执行安装PV driver或安装PV driver升级包。 前提条件 云服务器 已安装操作系统，并且已经绑定弹性公网IP。 云 服务器 的系统磁盘的剩余空间必须大于32MB。

查看更多 →

用资源，任务可能失败。 driver CPU核数 用于设置driver CPU核数。输入值必须在0到4之间。注意，如申请资源大于可用资源，任务可能失败。 driver内存 用于设置driver内存大小，通常建议即driver CPU核数：driver内存=1：4。GB输入值必须在

查看更多 →

8MB（196核CPU/1536G内存，128核CPU/1024G内存，104核CPU/1024G内存，96核CPU/1024G内存，96核CPU/768G内存，80核CPU/640G内存，64核CPU/512G内存，60核CPU/480G内存，32核CPU/256G内存，16核CPU/128G内存，8核C

查看更多 →

内存 介绍与内存相关的参数设置。 本节涉及的参数仅在数据库服务重新启动后生效。 enable_memory_limit 参数说明：启用逻辑内存管理模块。 参数类型：POSTMASTER 取值范围：布尔型 on表示启用逻辑内存管理模块。 off表示不启用逻辑内存管理模块。 默认值：on

查看更多 →

level1：动态内存使用超过最大动态内存的90%后，会记录以下信息，并将记录的内存信息保存在$GAUSS LOG /mem_log目录下。 全局内存概况。 instance，session，thread三种类型的所有内存上下文中内存占用前20的内存上下文的内存使用情况。 每个内存上下文的totalsize、freesize字段。

查看更多 →

JDBCServer进程堆内存使用率过高，会影响JDBCServer进程运行的性能，甚至造成内存溢出导致JDBCServer进程不可用。 可能原因 该节点JDBCServer进程堆内存使用率过大，或配置的堆内存不合理，导致使用率超过阈值。 处理步骤 检查堆内存使用率。 登录MRS集群详情页面，选择“告警管理”。

查看更多 →

JDBCServer进程非堆内存使用率过高，会影响JDBCServer进程运行的性能，甚至造成内存溢出导致JDBCServer进程不可用。 可能原因 该节点JDBCServer进程非堆内存使用率过大，或配置的非堆内存不合理，导致使用率超过阈值。 处理步骤 检查非堆内存使用率。 登录MRS集群详情页面，选择“告警管理”。

查看更多 →