怎样查看弹性资源池和作业的资源使用情况?
在大数据分析的日常工作中,合理分配和管理计算资源,可以提供良好的作业执行环境。
您可以根据作业的计算需求和数据规模分配资源、调整任务执行顺序,调度不同的弹性资源池或队列资源以适应不同的工作负载。待提交作业所需的CUs需小于等于弹性资源池的剩余可用CUs,才可以确保作业任务的正常执行。
本节操作介绍查看弹性资源池计算资源使用情况、作业所需CU数的查看方法。
怎样查看弹性资源池的资源使用情况?
- 登录DLI管理管理控制台。
- 选择“资源管理 > 弹性资源池”。
在弹性资源池的列表页查看资源池的“实际CUs”和“已使用CUs”。
- 实际CUs:弹性资源池当前分配的可用CUs。
- 已使用CUs:当前弹性资源池已经被分配使用的CUs
待提交作业所需的CUs需小于等于弹性资源池的剩余可用CUs,才可以确保作业任务的正常执行。
作业资源的占用情况请参考怎样查看作业所需的资源CUs数?。
怎样查看作业所需的资源CUs数?
- SQL作业:
请通过云监控服务提供的监控面板查看运行中的作业数和提交中的作业数,并根据作业数量判断SQL作业整体的资源占用情况。
- Flink 作业:
- Spark作业:
- 登录DLI管理管理控制台。
- 选择“作业管理 > Spark作业”。
- 选择要查看的作业,单击操作列的“编辑”进入作业配置页面。
计算公式如下:
Spark作业CUs数=Executor所占CU数+driver所占CUs数
Executor所占CU数=max { [(Executor个数 x Executor内存)÷4],(Executor个数 x Executor CPU核数)} x1
driver所占CUs数=max [( driver内存÷4), driver CPU核数] x1
- Spark作业未开启高级配置时默认按A类型资源规格配置。
- Spark作业中显示计算资源规格的单位为CPU单位,1CU包含1CPU和4GB内存。上述公式中x1代表CPU单位转换为CU单位。
- 请分别使用内存和CPU核数计算所需的CUs,取两者中的最大值作为Executor 或driver所需的CU数。
图2 查看Spark作业所需CUs数