文档首页> AI开发平台ModelArts> 故障排除> 训练作业> 业务代码问题> 日志提示“no socket interface found”
更新时间:2023-09-08 GMT+08:00

日志提示“no socket interface found”

问题现象

在pytorch镜像运行分布式作业时,设置NCCL日志级别,代码如下:
import os
os.environ["NCCL_DEBUG"] = "INFO"

会出现如下错误:

图1 错误日志

原因分析

可能原因如下:

  • 原因1:未设置环境变量NCCL_IB_TC、NCCL_IB_GID_INDEX、NCCL_IB_TIMEOUT,因此会导致通信速度慢且不稳定,最后造成IB通信断连,偶发上述现象。
  • 原因2:NCCL_SOCKET_IFNAME设置错误。当用户的NCCL版本低于2.14时,则需要手动设置NCCL_SOCKET_IFNAME环境变量。

处理方法

  • 针对原因1,需要在代码中补充如下环境变量。
    import os
    os.environ["NCCL_IB_TC"] = "128"
    os.environ["NCCL_IB_GID_INDEX"] = "3"
    os.environ["NCCL_IB_TIMEOUT"] = "22"
  • 针对原因2,需要在代码中设置环境变量NCCL_SOCKET_IFNAME。
    import os
    os.environ["NCCL_SOCKET_IFNAME"] = "eth0"

    只有当用户的NCCL版本低于2.14时,才需要进行以上设置。