全部文档
AI开发平台ModelArtsAI开发平台ModelArts
- 最新动态
- 功能总览
- 产品介绍
- 准备工作
- 快速入门
- 自动学习
- 开发工具
- 数据准备与分析
- 数据处理
- 数据标注
- 模型开发
- 模型封装
- 推理部署
- AI Gallery
- 最佳实践
-
AI工程师用户指南
- AI工程师如何使用ModelArts
- 免费体验ModelArts
- 数据管理（New）
- 数据管理（旧版即将下线）
- 开发环境（New）
- 开发环境（旧版即将下线）
- 训练管理（New）
- 训练管理（旧版即将下线）
- 模型管理（即将下线）
- 部署服务（即将下线）
- 资源池
- 使用自定义镜像
- 模型包规范（即将下线）
- 模型模板（即将下线）
- 自定义脚本代码示例
- 权限管理
- 监控
- 审计日志
- 建议反馈
- 将MLS业务迁移至ModelArts
- 修订记录
- 工具指南
- MoXing开发指南
- SDK参考
- API参考
-
常见问题
-
一般性问题
- 什么是ModelArts
- ModelArts与其他服务的关系
- ModelArts与DLS服务的区别？
- ModelArts与MLS服务的区别？
- 如何购买或开通ModelArts？
- 支持哪些型号的Ascend芯片？
- 如何获取访问密钥？
- 如何上传数据至OBS？
- 提示“上传的AK/SK不可用”，如何解决？
- 使用ModelArts时提示“权限不足”，如何解决？
- 如何用ModelArts训练基于结构化数据的模型？
- 什么是区域、可用区？
- 数据已上传OBS，使用ModelArts为什么无法找到对应的OBS桶？
- 在ModelArts中如何查看OBS目录下的所有文件？
- ModelArts数据集保存到容器的哪里？
- ModelArts支持哪些AI框架？
- ModelArts训练和推理分别对应哪些功能？
- MindSpore相关问题如何解决？
- 如何查看帐号ID和IAM用户ID
- ModelArts AI识别可以单独针对一个标签识别吗?
- 计费相关
- 自动学习
- 数据管理
- Notebook
- 训练作业
- 模型管理
- 部署上线
- 资源池
- AI Gallery
- API/SDK
- 修订记录
-
一般性问题
-
故障排除
- 自动学习
- 开发环境
-
训练作业
-
OBS操作相关故障
- 读取文件报错，如何正确读取文件？
- TensorFlow-1.8作业连接OBS时反复出现提示错误
- TensorFlow在OBS写入TensorBoard到达5GB时停止
- 保存模型时出现Unable to connect to endpoint错误
- 训练作业日志中提示“No such file or directory”，如何解决？
- OBS拷贝过程中提示“BrokenPipeError: Broken pipe”
- 日志提示“ValueError: Invalid endpoint: obs.xxxx.com”
- 日志提示“errorMessage:The specified bucket does not exist”
-
云上迁移适配故障
- 无法导入模块
- 训练作业日志中提示“No module named .*”
- 如何安装第三方包，安装报错的处理方法
- 下载代码目录失败
- 训练作业日志中提示“No such file or directory”
- 训练过程中无法找到so文件
- 无法解析参数，日志报错
- 训练输出路径被其他作业使用
- 使用自定义镜像创建训练作业，找不到启动文件
- Pytorch1.0引擎提示“RuntimeError: std::exception”
- MindSpore日志提示“ retCode=0x91, [the model stream execute failed]”
- 使用moxing适配OBS路径，pandas读取文件报错
- 日志提示“Please upgrade numpy to >= xxx to use this pandas version”
- 重装的包与镜像装CUDA版本不匹配
- 创建训练作业提示错误码ModelArts.2763
- 内存限制故障
- 外网访问限制
- 权限问题
- GPU相关问题
-
业务代码问题
- 日志提示“pandas.errors.ParserError: Error tokenizing data. C error: Expected .* fields”
- 日志提示“max_pool2d_with_indices_out_cuda_frame failed with error code 0”
- 训练作业失败，返回错误码139
- 训练作业失败，如何使用云上环境调试训练代码？
- 日志提示“ '(slice(0, 13184, None), slice(None, None, None))' is an invalid key”
- 日志报错“DataFrame.dtypes for data must be int, float or bool”
- 日志提示“CUDNN_STATUS_NOT_SUPPORTED. ”
- 日志提示“Out of bounds nanosecond timestamp”
- 日志提示“Unexpected keyword argument passed to optimizer”
- 日志提示“no socket interface found”
- 分布式Tensorflow无法使用“tf.variable”
- MXNet创建kvstore时程序被阻塞，无报错
- 日志出现ECC错误，导致训练作业失败
- 超过最大递归深度导致训练作业失败
- 使用预置算法训练时，训练失败，报“bndbox”错误
- 训练作业状态显示“审核作业初始化”
- 训练作业进程异常退出
- 训练作业进程被kill
-
OBS操作相关故障
- 模型管理
- MoXing
- 修订记录
- 视频帮助
- 文档下载
链接复制成功！
部署为在线服务
AI应用准备完成后，您可以将AI应用部署为在线服务，对在线服务进行预测和调用。
单个用户最多可创建20个在线服务。
前提条件
- 数据已完成准备：已在ModelArts中创建状态“正常”可用的AI应用。
- 由于在线运行需消耗资源，确保帐户未欠费。
操作步骤
- 登录ModelArts管理控制台，在左侧导航栏中选择“部署上线 > 在线服务”，默认进入“在线服务”列表。
- 在“在线服务”列表中，单击左上角“部署”，进入“部署”页面。
- 在“部署”页面，填写在线服务相关参数。
- 填写基本信息，详细参数说明请参见表1。
表1 基本信息参数说明 参数名称
说明
“名称”
在线服务的名称，请按照界面提示规则填写。
“是否自动停止”
启用该参数并设置时间后，服务将在指定时间后自动停止。如果不启用此参数，在线服务将一直运行，同时一直收费，自动停止功能可以帮您避免产生不必要的费用。默认开启自动停止功能，且默认值为“1小时后”。
目前支持设置为“1小时后”、“2小时后”、“4小时后”、“6小时后”、“自定义”。如果选择“自定义”的模式，可在右侧输入框中输入1~24范围内的任意整数。
“描述”
在线服务的简要说明。
图1 部署在线服务基本信息
- 填写资源池和AI应用配置等关键信息，详情请参见表2。
表2 参数说明 参数名称
子参数
说明
“资源池”
“公共资源池”
公共资源池有CPU或GPU两种规格，不同规格的资源池，其收费标准不同，详情请参见价格详情说明。当前仅支持按需付费模式。
“资源池”
“专属资源池”
创建专属资源池请参见创建专属资源池。您可以在资源池规格中选择对应的规格进行使用。
“服务流量限制”
-
服务流量限制是指每秒内一个服务能够被访问的次数上限。请根据实际需求设置每秒流量限制。
“选择AI应用及配置”
“AI应用来源”
根据您的实际情况选择“我的AI应用”或者“我的订阅”。
“选择AI应用及版本”
选择状态“正常”的AI应用及版本。
“分流”
设置当前实例节点的流量占比，服务调用请求根据该比例分配到当前版本上。
如您仅部署一个版本的AI应用，请设置为100%。如您添加多个版本进行灰度发布，多个版本分流之和设置为100%。
“计算节点规格”
请根据界面显示的列表，选择可用的规格，置灰的规格表示当前环境无法使用。
“计算节点个数”
设置当前版本AI应用的实例个数。如果节点个数设置为1，表示后台的计算模式是单机模式；如果节点个数设置大于1，表示后台的计算模式为分布式的。请根据实际编码情况选择计算模式。
“环境变量”
设置环境变量，注入环境变量到容器实例。为确保您的数据安全，在环境变量中，请勿输入敏感信息，如明文密码。
“添加AI应用版本进行灰度发布”
当选择的AI应用有多个版本时，您可以添加多个AI应用版本，并配置其分流占比，完成多版本和灵活流量策略的灰度发布，实现AI应用版本的平滑过渡升级。
说明：当前免费计算规格不支持多版本灰度发布。
“数据采集”
-
默认关闭。如需开启此功能，请参见采集数据了解详情并根据实际情况进行设置。
“难例筛选”
-
默认关闭。如需开启此功能，请参见采集数据了解详情并根据实际情况进行设置。
“支持APP认证”
APP授权配置
默认关闭。如需开启此功能，请参见访问在线服务（APP认证）了解详情并根据实际情况进行设置。
“订阅消息”
-
订阅消息使用消息通知服务，在事件列表中选择需要监控的资源池状态，在事件发生时发送消息通知。
图2 设置AI应用相关信息
- 填写基本信息，详细参数说明请参见表1。
- 确认填写信息无误后，根据界面提示完成在线服务的部署。部署服务一般需要运行一段时间，根据您选择的数据量和资源不同，部署时间将耗时几分钟到几十分钟不等。
在线服务部署完成后，将立即启动，运行过程中将按照您选择的资源按需计费。
您可以前往在线服务列表，查看在线服务的基本情况。在在线服务列表中，刚部署的服务“状态”为“部署中”，当在线服务的“状态”变为“运行中”时，表示服务部署完成。
