更新时间:2022-10-27 GMT+08:00
分享

管理AI应用简介

为了更方便用户使用和清晰的获取文档帮助,《AI工程师用户指南》按照AI开发流程调整拆分为多本文档,在一级导航中呈现,并从用户使用场景对各模块文档进行了优化和改进。“模型管理”的内容已拆分至《推理部署》,《AI工程师用户指南》里的“模型管理”即将下线。

AI开发和调优往往需要大量的迭代和调试,数据集、训练代码或参数的变化都可能会影响模型的质量,如不能统一管理开发流程元数据,可能会出现无法重现最优模型的现象。

ModelArts的AI应用管理可导入所有训练生成的元模型、上传至对象存储服务(OBS)中的元模型和容器镜像中的元模型,可对所有迭代和调试的AI应用进行统一管理。

使用限制和说明

  • 自动学习项目中,在完成模型部署后,其生成的模型也将自动上传至AI应用管理列表中。但是自动学习生成的AI应用无法下载,只能用于部署上线。
  • 创建AI应用、管理AI应用版本、模型转换等功能目前是免费开放给所有用户,使用此功能不会产生费用。

创建AI应用的几种场景

  • 从训练中选择:在ModelArts中创建训练作业,并完成模型训练,在得到满意的模型后,可以将训练后得到的模型创建为AI应用,用于部署服务。
  • 从OBS中选择:如果您使用常用框架在本地完成模型开发和训练,可以将本地的模型按照模型包规范上传至OBS桶中,从OBS将模型导入至ModelArts中,创建为AI应用,直接用于部署服务。
  • 从容器镜像中选择:针对ModelArts目前不支持的AI引擎,可以通过自定义镜像的方式将编写的模型镜像导入ModelArts,创建为AI应用,用于部署服务。
  • 从模板中选择:相同功能的模型配置信息重复率高,将相同功能的配置整合成一个通用的模板,通过使用该模板,可以方便快捷的导入模型,创建为AI应用,而不用编写config.json配置文件。

AI应用管理的功能描述

表1 AI应用管理相关功能

支持的功能

说明

创建AI应用

将训练后的模型导入至ModelArts创建为AI应用,便于进行统一管理,支持如下几种场景的导入方式,不同场景对应的操作指导请参见:

管理AI应用

为方便溯源和模型反复调优,在ModelArts中提供了AI应用版本管理的功能,您可以基于版本对AI应用进行管理。

发布AI应用

针对在ModelArts创建的AI应用,支持将参赛模型提交至比赛项目

推理支持的AI引擎

在ModelArts创建AI应用时,若使用预置镜像“从模板中选择”或“从OBS中选择”导入模型,则支持如下常用引擎及版本的模型包。

  • 标注“推荐”的Runtime来源于统一镜像,后续统一镜像将作为主流的推理基础镜像。统一镜像中的安装包更齐全,详细信息可以参见推理基础镜像列表
  • 推荐将旧版镜像切换为统一镜像,旧版镜像后续将会逐渐下线。
  • 统一镜像Runtime的命名规范:<AI引擎名字及版本> - <硬件及版本:cpu或cuda或cann> - <python版本> - <操作系统版本> - <CPU架构>
表2 支持的常用引擎及其Runtime

模型使用的引擎类型

支持的运行环境(Runtime)

注意事项

TensorFlow

python3.6

python2.7

tf1.13-python2.7-gpu

tf1.13-python2.7-cpu

tf1.13-python3.6-gpu

tf1.13-python3.6-cpu

tf1.13-python3.7-cpu

tf1.13-python3.7-gpu

tf2.1-python3.7

tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64(推荐)

  • python2.7、python3.6的运行环境搭载的TensorFlow版本为1.8.0。
  • python3.6、python2.7、tf2.1-python3.7,表示该模型可同时在CPU或GPU运行。其他Runtime的值,如果后缀带cpu或gpu,表示该模型仅支持在CPU或GPU中运行。
  • 默认使用的Runtime为python2.7。

MXNet

python3.7

python3.6

python2.7

  • python2.7、python3.6、python3.7的运行环境搭载的MXNet版本为1.2.1。
  • python2.7、python3.6、python3.7,表示该模型可同时在CPU或GPU运行。
  • 默认使用的Runtime为python2.7。

Caffe

python2.7

python3.6

python3.7

python2.7-gpu

python3.6-gpu

python3.7-gpu

python2.7-cpu

python3.6-cpu

python3.7-cpu

  • python2.7、python3.6、python3.7、python2.7-gpu、python3.6-gpu、python3.7-gpu、python2.7-cpu、python3.6-cpu、python3.7-cpu的运行环境搭载的Caffe版本为1.0.0。
  • python2.7、python3.6、python3.7只能用于运行适用于CPU的模型。其他Runtime的值,如果后缀带cpu或gpu,表示该模型仅支持在CPU或GPU中运行。推荐使用python2.7-gpu、python3.6-gpu、python3.7-gpu、python2.7-cpu、python3.6-cpu、python3.7-cpu的Runtime。
  • 默认使用的Runtime为python2.7。

Spark_MLlib

python2.7

python3.6

  • python2.7以及python3.6的运行环境搭载的Spark_MLlib版本为2.3.2。
  • 默认使用的Runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于CPU的模型。

Scikit_Learn

python2.7

python3.6

  • python2.7以及python3.6的运行环境搭载的Scikit_Learn版本为0.18.1。
  • 默认使用的Runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于CPU的模型。

XGBoost

python2.7

python3.6

  • python2.7以及python3.6的运行环境搭载的XGBoost版本为0.80。
  • 默认使用的Runtime为python2.7。
  • python2.7、python3.6只能用于运行适用于CPU的模型。

PyTorch

python2.7

python3.6

python3.7

pytorch1.4-python3.7

pytorch1.5-python3.7

pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64(推荐)

  • python2.7、python3.6、python3.7的运行环境搭载的PyTorch版本为1.0。
  • python2.7、python3.6、python3.7、pytorch1.4-python3.7、pytorch1.5-python3.7,表示该模型可同时在CPU或GPU运行。
  • 默认使用的Runtime为python2.7。

MindSpore

aarch64

mindspore_1.7.0-cpu-py_3.7-ubuntu_18.04-x86_64(推荐)

aarch64只能用于运行在D310芯片上。

分享:

    相关文档

    相关产品