更新时间:2026-09-30 GMT+08:00
专属资源池上没有作业,但创建训练作业时“资源不足”
问题现象
- 训练作业创建后的状态一直在“排队中”,查看专属资源池,检查剩余资源量不足,但是资源池上当前并没有其他运行中的训练作业。
- 检查该资源池上已停止/失败的其他训练作业,日志里面有告警“检测到不可中断睡眠进程,可能导致容器无法正常终止”。
原因分析
- 作业终止时 CKPT 上传任务未完成,产生系统级 D 进程(不可中断阻塞进程),该进程无法通过常规操作系统指令结束。
- K8s 仅能管理常规业务进程,无法处理操作系统层面的 D 进程,导致容器终止流程阻塞、无法完成销毁。
- 容器长期残留持续占用节点硬件资源,资源池容量被占用,新提交训练作业因资源不足持续排队。
处理步骤
- 被动处理:持续观察节点状态,等待 D 进程对应的底层 IO 流程执行完成,D 进程自动退出后容器销毁、资源释放。
- 主动处理:若进程长时间未释放、资源持续占用,直接重启资源池的节点彻底回收资源。
父主题: 专属资源池创建训练作业