更新时间:2022-02-22 GMT+08:00
配置executor堆外内存大小
配置场景
当分配的内存太小或者被更高优先级的进程抢占资源时,会出现物理内存超限的情况。调整如下参数,可以防止物理内存超限。
配置描述
参数入口:
在应用提交时通过“--conf”设置这些参数,或者在客户端的“spark-defaults.conf”配置文件中调整如下参数。
参数 |
说明 |
默认值 |
---|---|---|
spark.executor.memoryOverhead |
用于指定每个executor的堆外内存大小(MB),增大该参数值,可以防止物理内存超限。该值是通过max(384,executor-memory*0.1)计算所得,最小值为384。 |
1024 |
父主题: 场景化参数