全部文档
AI开发平台ModelArtsAI开发平台ModelArts
- 最新动态
- 功能总览
- 产品介绍
- 准备工作
- 快速入门
- 自动学习
- 开发工具
- 数据准备与分析
- 数据处理
- 数据标注
- 模型开发
- 模型封装
- 推理部署
- AI Gallery
- 最佳实践
-
AI工程师用户指南
- AI工程师如何使用ModelArts
- 免费体验ModelArts
- 数据管理（New）
- 数据管理（旧版即将下线）
- 开发环境（New）
- 开发环境（旧版即将下线）
- 训练管理（New）
- 训练管理（旧版即将下线）
- 模型管理（即将下线）
- 部署服务（即将下线）
- 资源池
- 使用自定义镜像
- 模型包规范（即将下线）
- 模型模板（即将下线）
- 自定义脚本代码示例
- 权限管理
- 监控
- 审计日志
- 建议反馈
- 将MLS业务迁移至ModelArts
- 修订记录
- 工具指南
- MoXing开发指南
- SDK参考
- API参考
-
常见问题
-
一般性问题
- 什么是ModelArts
- ModelArts与其他服务的关系
- ModelArts与DLS服务的区别？
- ModelArts与MLS服务的区别？
- 如何购买或开通ModelArts？
- 支持哪些型号的Ascend芯片？
- 如何获取访问密钥？
- 如何上传数据至OBS？
- 提示“上传的AK/SK不可用”，如何解决？
- 使用ModelArts时提示“权限不足”，如何解决？
- 如何用ModelArts训练基于结构化数据的模型？
- 什么是区域、可用区？
- 数据已上传OBS，使用ModelArts为什么无法找到对应的OBS桶？
- 在ModelArts中如何查看OBS目录下的所有文件？
- ModelArts数据集保存到容器的哪里？
- ModelArts支持哪些AI框架？
- ModelArts训练和推理分别对应哪些功能？
- MindSpore相关问题如何解决？
- 如何查看帐号ID和IAM用户ID
- ModelArts AI识别可以单独针对一个标签识别吗?
- 计费相关
- 自动学习
- 数据管理
- Notebook
- 训练作业
- 模型管理
- 部署上线
- 资源池
- AI Gallery
- API/SDK
- 修订记录
-
一般性问题
-
故障排除
- 自动学习
- 开发环境
-
训练作业
-
OBS操作相关故障
- 读取文件报错，如何正确读取文件？
- TensorFlow-1.8作业连接OBS时反复出现提示错误
- TensorFlow在OBS写入TensorBoard到达5GB时停止
- 保存模型时出现Unable to connect to endpoint错误
- 训练作业日志中提示“No such file or directory”，如何解决？
- OBS拷贝过程中提示“BrokenPipeError: Broken pipe”
- 日志提示“ValueError: Invalid endpoint: obs.xxxx.com”
- 日志提示“errorMessage:The specified bucket does not exist”
-
云上迁移适配故障
- 无法导入模块
- 训练作业日志中提示“No module named .*”
- 如何安装第三方包，安装报错的处理方法
- 下载代码目录失败
- 训练作业日志中提示“No such file or directory”
- 训练过程中无法找到so文件
- 无法解析参数，日志报错
- 训练输出路径被其他作业使用
- 使用自定义镜像创建训练作业，找不到启动文件
- Pytorch1.0引擎提示“RuntimeError: std::exception”
- MindSpore日志提示“ retCode=0x91, [the model stream execute failed]”
- 使用moxing适配OBS路径，pandas读取文件报错
- 日志提示“Please upgrade numpy to >= xxx to use this pandas version”
- 重装的包与镜像装CUDA版本不匹配
- 创建训练作业提示错误码ModelArts.2763
- 内存限制故障
- 外网访问限制
- 权限问题
- GPU相关问题
-
业务代码问题
- 日志提示“pandas.errors.ParserError: Error tokenizing data. C error: Expected .* fields”
- 日志提示“max_pool2d_with_indices_out_cuda_frame failed with error code 0”
- 训练作业失败，返回错误码139
- 训练作业失败，如何使用云上环境调试训练代码？
- 日志提示“ '(slice(0, 13184, None), slice(None, None, None))' is an invalid key”
- 日志报错“DataFrame.dtypes for data must be int, float or bool”
- 日志提示“CUDNN_STATUS_NOT_SUPPORTED. ”
- 日志提示“Out of bounds nanosecond timestamp”
- 日志提示“Unexpected keyword argument passed to optimizer”
- 日志提示“no socket interface found”
- 分布式Tensorflow无法使用“tf.variable”
- MXNet创建kvstore时程序被阻塞，无报错
- 日志出现ECC错误，导致训练作业失败
- 超过最大递归深度导致训练作业失败
- 使用预置算法训练时，训练失败，报“bndbox”错误
- 训练作业状态显示“审核作业初始化”
- 训练作业进程异常退出
- 训练作业进程被kill
-
OBS操作相关故障
- 模型管理
- MoXing
- 修订记录
- 视频帮助
- 文档下载
链接复制成功！
配置本地IDE（PyCharm ToolKit连接）
ModelArts提供了一个PyCharm插件工具PyCharm ToolKit，协助用户完成代码上传、提交训练作业、将训练日志获取到本地展示等，用户只需要专注于本地的代码开发即可。
前提条件
本地已安装2019.2及以上版本的PyCharm专业版。SSH远程开发功能只限PyCharm专业版。
Step1 下载并安装PyCharm ToolKit
插件工具包PyCharm ToolKit集成在ModelArts管理控制台中，请先下载并安装PyCharm ToolKit插件。
具体下载和安装过程请参见安装PyCharm ToolKit工具插件包。
Step3 创建Notebook实例
创建一个Notebook实例，并开启远程SSH开发，配置远程访问IP白名单。该实例状态必须处于“运行中”，具体参见创建Notebook实例章节。
Step4 插件自动化配置
- 在本地的PyCharm开发环境中，单击“ModelArts > Connect To Remote > Remote Config”，配置插件。图1 配置插件
此处如果看不到Connect to Remote选项，请先参考创建Notebook实例章节，创建Notebook实例，并开启该实例的SSH远程开发功能。
也可能是PyCharm ToolKit的版本不正确，请按照文档要求下载新版本的PyCharm ToolKit。
下载前请先清除浏览器缓存，如果之前下载过老版本的PyCharm ToolKit，浏览器会有缓存，可能会导致新版本下载失败。
- 此时，会出现该帐号已创建的所有包含SSH功能的Notebook列表，下拉进行选择对应Notebook。图2 Notebook列表
- KeyPair: 需要选择保存在本地的Notebook对应的keypair认证。即创建Notebook时创建的密钥对文件，创建时会直接保存到浏览器默认的下载文件夹中。
- PathMappings: 该参数为本地IDE项目和Notebook对应的同步目录，默认为/home/ma-user/work/project名称，可根据自己实际情况更改。
- 单击“Apply”，配置完成后，重启IDE生效。
重启后初次进行update python interpreter需要耗费20分钟左右。
Step5 使用插件连接云上Notebook
与Notebook断开连接的状态下，单击Notebook名称，根据提示启动本地IDE与Notebook的连接(默认启动时间4小时)。
连接状态下，单击Notebook名称，根据提示断开本地IDE与云上Notebook的连接。
Step6 同步上传本地文件至Notebook
本地文件中的代码直接拷贝至本地IDE中即可，本地IDE中会自动同步至云上开发环境。
初始化同步：
在本地IDE的Project目录下，单击右键，选择“Deployment”，单击“Upload to xxx”（Notebook名称），将本地工程文件上传至指定的Notebook。
后续同步:
只需修改代码后保存（ctrl+s），即可进行自动同步。
插件安装完成后在本地IDE中开启了“Automatic Upload”，本地目录中的文件会自动上传至云端开发环境Notebook。如果未开启，请参考下图开启自动上传。
Step7 远程调试
单击本地IDE右下角interpreter，选择Notebook的python解释器。
像本地运行代码一样，直接单击运行按钮运行代码即可，此时虽然是在本地IDE点的运行按钮，实际上运行的是云端Notebook里的代码，日志可以回显在本地的日志窗口。
也可以单击本地IDE右上角的Run/Debug Configuration按钮来设置运行参数。
选择远程连接到云上开发环境实例对应的Python解释器。
当需要调试代码时，可以直接打断点，然后使用debug方式运行程序。
此时可以进入debug模式，代码运行暂停在该行，且可以查看变量的值。
