更新时间:2023-03-17 GMT+08:00

为什么在off heap时数据加载失败?

问题

为什么在off heap时数据加载失败?

回答

YARN Resource Manager将(Java堆内存 + “spark.yarn.am.memoryOverhead”)作为内存限制,因此在off heap时,内存可能会超出此限制。您需配置参数“spark.yarn.am.memoryOverhead”以增加memory。