更新时间:2024-10-24 GMT+08:00

推理专属预置镜像列表

ModelArts的推理平台提供了一系列的基础镜像,用户可以基于这些基础镜像构建自定义镜像,用于部署推理服务。

X86架构(CPU/GPU)的推理基础镜像

表1 TensorFlow

AI引擎版本

支持的运行环境

镜像名称

URI

2.1.0

CPU

GPU(cuda10.1)

tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/atelier/tensorflow_2_1:tensorflow_2.1.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64-20221121111529-d65d817

1.15.5

CPU

GPU(cuda11.4)

tensorflow_1.15.5-cuda_11.4-py_3.8-ubuntu_20.04-x86_64

swr.{region_id}.myhuaweicloud.com/aip/tensorflow_1_15:tensorflow_1.15.5-cuda_11.4-py_3.8-ubuntu_20.04-x86_64-20220524162601-50d6a18

2.6.0

CPU

GPU(cuda11.2)

tensorflow_2.6.0-cuda_11.2-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/aip/tensorflow_2_6:tensorflow_2.6.0-cuda_11.2-py_3.7-ubuntu_18.04-x86_64-20220524162601-50d6a18

表2 PyTorch

AI引擎版本

支持的运行环境

镜像名称

URI

1.8.0

CPU

GPU(cuda10.2)

pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/atelier/pytorch_1_8:pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64-20221118143845-d65d817

1.8.2

CPU

GPU(cuda11.1)

pytorch_1.8.2-cuda_11.1-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/aip/pytorch_1_8:pytorch_1.8.2-cuda_11.1-py_3.7-ubuntu_18.04-x86_64-20220524162601-50d6a18

表3 MindSpore

AI引擎版本

支持的运行环境

镜像名称

URI

1.7.0

CPU

mindspore_1.7.0-cpu-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/atelier/mindspore_1_7_0:mindspore_1.7.0-cpu-py_3.7-ubuntu_18.04-x86_64-20220702120711-8590b76

1.7.0

GPU(cuda10.1)

mindspore_1.7.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/atelier/mindspore_1_7_0:mindspore_1.7.0-cuda_10.1-py_3.7-ubuntu_18.04-x86_64-20220702120711-8590b76

1.7.0

GPU(cuda11.1)

mindspore_1.7.0-cuda_11.1-py_3.7-ubuntu_18.04-x86_64

swr.{region_id}.myhuaweicloud.com/atelier/mindspore_1_7_0:mindspore_1.7.0-cuda_11.1-py_3.7-ubuntu_18.04-x86_64-20220702120711-8590b76

推理基础镜像详情PyTorch(CPU/GPU)

ModelArts提供了以下PyTorch(CPU/GPU)推理基础镜像: