日志提示"write line error"

问题现象

在程序运行过程中，刷出大量错误日志"write line error"。并且问题是必现问题，每次运行到同一地方的时候，出现错误，具体见下面截图：

图1 错误日志

原因分析

出现该问题的可能原因如下：

• 程序运行过程中，产生了core文件，core文件占满了"/"根目录空间。
• 本地数据、文件保存将"/cache"目录3.5T空间用完了。

云上训练磁盘空间一般指如下两个目录的磁盘空间：

1. “/”根目录，是docker中配置项“base size”，默认是10G，云上统一改为50G。
2. “/cache”目录满了，一般是3.5T存储空间满了。

处理方法

1. 如果在训练作业的工作目录下有core文件生成，可以在启动脚本最前面加上如下代码，来关闭core文件产生。

   import os
   os.system("ulimit -c 0")

2. 排查数据集大小，checkpoint保存文件大小，是否占满了磁盘空间。
3. 必现的问题，使用本地Pycharm远程连接Notebook调试。

建议与总结