文档首页> > 产品介绍> 实例> GPU加速型

GPU加速型

分享
更新时间: 2019/07/17 16:31

GPU加速型云服务器(GPU Accelerated Cloud Server, GACS)能够提供强大的浮点计算能力,从容应对高实时、高并发的海量计算场景。

GPU加速型云服务器包括图形加速型(G系列)和计算加速型(P系列)两类。其中:
  • 图形加速型即“G系列”的弹性云服务器,适合于3D动画渲染、CAD等。
  • 计算加速型即“P系列”的弹性云服务器,适合于深度学习,科学计算,CAE等。

GPU加速实例总览

GPU加速型云服务器包括图形加速型(G系列)和计算加速型(P系列)两类。

表1 GPU加速实例总览

类别

实例

GPU显卡

使用场景

可用区

备注

图形加速型

G5

NVIDIA V100(GPU虚拟化)

云桌面、图像渲染、3D可视化、重载图形设计

华北-北京一 可用区2

华北-北京四 可用区1

华东-上海二 可用区2

华南-广州 可用区3

无法通过云服务器控制台“远程登录”,请使用VNC或第三方VDI协议

G3

NVIDIA M60(GPU直通)

华北-北京一 可用区1

华东-上海二 可用区2

华南-广州 可用区2

无法通过云服务器控制台“远程登录”,请使用VNC或第三方VDI协议

G1

NVIDIA M60(GPU虚拟化)

华北-北京一 可用区1、可用区2

华东-上海二 可用区1

华南-广州 可用区1

G1实例中g1.2xlarge.8规格使用的是GPU直通,无法通过云服务器控制台“远程登录”,请使用VNC或第三方VDI协议

计算加速型

P2v

NVIDIA V100 NVLink(GPU直通)

机器学习、深度学习、训练推理、科学计算、地震分析、计算金融学、渲染、多媒体编解码

华北-北京一 可用区2

华北-北京四 可用区1

华东-上海二 可用区2

-

P1

NVIDIA P100(GPU直通)

华北-北京一 可用区1

华东-上海二 可用区2

华南-广州 可用区2

配备本地NVMe SSD磁盘,按需购买关机收费

Pi1

NVIDIA P4(GPU直通)

华北-北京一 可用区1

-

说明:
  • 控制台的远程登录方式可以作为运维处理的平台,但不能作为生产环境使用。使用控制台的远程登录方式无法使用物理GPU能力。
  • 在不支持远程登录的情况下,可以使用Windows远程桌面mstsc,或者第三方桌面协议。如TeamViewer,VNC工具。

适用于GPU加速实例的镜像列表

表2 适用于GPU加速实例的镜像列表

类别

实例

支持镜像

图形加速型

G3

Windows Server 2012 R2 Standard 64bit

Windows Server 2008 R2 Enterprise

G1

Windows Server 2012 R2 Standard 64bit

Windows Server 2008 R2 Enterprise

计算加速型

P2v

Windows Server 2016 Standard 64bit

Windows Server 2012 R2 Standard 64bit

Ubuntu 16.04 64bit

CentOS 7.4 64bit

EulerOS 2.2 64bit

P1

Windows Server 2012 R2 Standard 64bit

CentOS 7.3 64bit

EulerOS 2.2 64bit

Ubuntu 16.04 64bit

Debian 8.0.0 64bit

Pi1

CentOS 7.3 64bit

Ubuntu 16.04 64bit

Ubuntu 14.04 64bit

图形加速增强型G3

概述

G3型弹性云服务器基于PCI直通技术,独享整张GPU卡,提供专业级的图形加速能力。同时,G3型弹性云服务器使用NVIDIA Tesla M60 GPU卡,能够支持DirectX、OpenGL接口,可以提供最大显存16GB,支持最大4096*2160分辨率,是专业级图形工作站的首选。

规格
表3 G3型弹性云服务器的规格

规格名称

vCPU

内存(GB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

GPU

显存(GB)

虚拟化类型

g3.4xlarge.4

16

64

8/2.5

50

2

1×M60核心

1×8

KVM

g3.8xlarge.4

32

128

10/5

100

4

2×M60核心

2×8

KVM

说明:

NVIDIA Tesla M60板卡包含两颗M60 GPU,每颗M60 GPU包含2048 CUDA 核心和8GB显存。G系列云服务器所指的M60一般指的是M60 GPU, 而不是M60板卡。

G3型弹性云服务器功能如下:
  • 支持专业级图形加速接口
  • 支持NVIDIA M60 GPU卡
  • 支持图形加速应用
  • 提供GPU直通的能力
  • 提供和弹性云服务器相同的申请流程
  • 自动化的调度G3型弹性云服务器到装有NVIDIA M60 GPU卡的可用区
  • 可以提供最大显存16GB,分辨率为4096×2160的图形图像处理能力

使用须知

  • G3型弹性云服务器不支持规格变更。
  • G3型弹性云服务器当前支持如下版本的操作系统:
    • Windows Server 2008 R2 Enterprise SP1 64bit
    • Windows Server 2012 R2 Standard 64bit
  • G3型弹性云服务器不支持使用公有云平台提供的“远程登录”功能。请先使用MSTSC方式登录弹性云服务器,然后自行安装VNC工具进行登录。
  • 使用私有镜像创建的G3型弹性云服务器,需在弹性云服务器创建完成后安装GPU驱动。详细安装步骤请参考安装Grid驱动

图形加速型G1

概述

G1型弹性云服务器基于NVIDIA GRID虚拟GPU技术,提供较为经济的图形加速能力。同时,G1型弹性云服务器使用NVIDIA Tesla M60 GPU卡,能够支持DirectX、OpenGL,可以提供最大显存8GB、分辨率为4096×2160的图形图像处理能力,适用于图形渲染要求较高的应用。

规格

表4 G1型弹性云服务器的规格

规格名称

vCPU

内存(GB)

最大带宽/基准带宽

最大收发包能力

GPU

显存(GB)

虚拟化类型

g1.xlarge

4

8

1×M60-1Q

1

XEN

g1.xlarge.4

4

16

1×M60-1Q

1

XEN

g1.2xlarge

8

16

1×M60-2Q

2

XEN

g1.2xlarge.8

8

64

直通

8

XEN

g1.4xlarge

16

32

1×M60-4Q

4

XEN

说明:

M60-xQ使用GPU虚拟化能力,x为1/2/4/8,表示云服务器使用GRID技术将M60 GPU虚拟为不同规格和型号的vGPU, x对应于vGPU的显存大小,Q表示该类型的vGPU主要适用于工作站和桌面场景。更多关于GRID虚拟GPU的介绍,请参见NVIDIA官方文档

G1型弹性云服务器功能如下:
  • 支持NVIDIA M60 GPU卡
  • 支持图形加速应用
  • 提供GPU硬件虚拟化(vGPU)和GPU直通能力
  • 提供和弹性云服务器相同的申请流程
  • 自动化的调度G1型弹性云服务器到装有NVIDIA M60 GPU卡的可用区
  • 可以提供最大显存8GB,分辨率为4096×2160的图形图像处理能力
使用须知
  • G1型弹性云服务器不支持规格变更。
  • G1型弹性云服务器当前支持如下版本的操作系统:
    • Windows Server 2008 R2 Enterprise SP1 64bit
    • Windows Server 2012 R2 Standard 64bit
  • 规格为g1.2xlarge.8的弹性云服务器,不支持使用公有云平台提供的“远程登录”功能。请先使用MSTSC方式登录,然后自行安装VNC工具进行登录。

    对于非g1.2xlarge.8的G1型弹性云服务器,支持使用公有云平台提供的“远程登录”功能,具体操作请参见远程登录(VNC方式)

  • 使用私有镜像创建的G1型弹性云服务器,需在弹性云服务器创建完成后安装GPU驱动。详细安装步骤请参考安装Grid驱动

计算加速型P2v

概述

P2v型弹性云服务器采用NVIDIA Tesla V100 GPU,在提供云服务器灵活性的同时,提供高性能计算能力和优秀的性价比。P2v型弹性云服务器支持GPU NVLink技术,实现GPU之间的直接通信,提升GPU之间的数据传输效率。能够提供超高的通用计算能力,适用于AI深度学习、科学计算,在深度学习训练、科学计算、计算流体动力学、计算金融、地震分析、分子建模、基因组学等领域都能表现出巨大的计算优势。

规格

表5 P2v型弹性云服务器的规格

规格名称

vCPU

内存(GB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

GPU

GPU连接技术

显存(GB)

虚拟化类型

p2v.2xlarge.8

8

64

10/4

50

4

1*V100

-

1*16GB

KVM

p2v.4xlarge.8

16

128

15/8

100

8

2*V100

NVLink

2*16GB

KVM

p2v.8xlarge.8

32

256

25/15

200

16

4*V100

NVLink

4*16GB

KVM

p2v.16xlarge.8

64

512

30/30

400

32

8*V100

NVLink

8*16GB

KVM

P2v型弹性云服务器功能如下:
  • 支持NVIDIA Tesla V100 GPU卡,单虚拟机支持最大8张Tesla V100显卡。
  • 支持NVIDIA CUDA 并行计算,支持常见的深度学习框架Tensorflow、Caffe、PyTorch、MXNet等。
  • 单精度能力15.7 TFLOPS,双精度能力7.8 TFLOPS。
  • 支持NVIDIA Tensor Core能力,深度学习混合精度运算能力达到125 TFLOPS。
  • 单实例最大网络带宽30Gb/s。
  • 使用16GB HBM2显存,显存带宽900Gb/s。
  • 完整的基础能力

    网络自定义,自由划分子网、设置网络访问策略;海量存储,弹性扩容,支持备份与恢复,让数据更加安全;弹性伸缩,快速增加或减少云服务器数量。

  • 灵活选择

    与普通云服务器一样,P2v型云服务器可以做到分钟级快速发放。

  • 优秀的超算生态

    拥有完善的超算生态环境,用户可以构建灵活弹性、高性能、高性价比的计算平台。大量的HPC应用程序和深度学习框架已经可以运行在P2v实例上。

常规软件支持列表

P2v型云服务器主要用于计算加速场景,例如深度学习训练、推理、科学计算、分子建模、地震分析等场景。应用软件如果使用到GPU的CUDA并行计算能力,可以使用P2v型云服务器。常用的软件支持列表如下:
  • Tensorflow、Caffe、PyTorch、MXNet等常用深度学习框架
  • RedShift for Autodesk 3dsMax、V-Ray for 3ds Max等支持CUDA的GPU渲染
  • Agisoft PhotoScan
  • MapD
使用须知
  • 使用私有镜像创建的P2v型云服务器,请确认在制作私有镜像时已安装NVIDIA驱动。如果未安装,需在P2v型云服务器创建完成后进行驱动安装,实现计算加速功能。请参见安装NVIDIA GPU驱动及CUDA工具包
  • P2v型弹性云服务器不支持规格变更。
  • P2v型按需云服务器当前支持如下版本的操作系统:
    • Ubuntu Server 16.04 64bit
    • CentOS 7.4 64bit
    • EulerOS 2.2 64bit
    • Windows Server 2012 R2 Standard 64bit
    • Windows Server 2016 Standard 64bit

计算加速型P1

概述

P1型弹性云服务器采用NVIDIA Tesla P100 GPU,在提供云服务器灵活性的同时,提供优质性能体验和优良的性价比。P1型弹性云服务器支持GPU Direct技术,实现GPU之间的直接通信,提升GPU之间的数据传输效率。能够提供超高的通用计算能力,在深度学习、图形数据库、高性能数据库、计算流体动力学、计算金融、地震分析、分子建模、基因组学等领域都能表现出巨大的计算优势,适用于科学计算等。

规格

表6 P1型弹性云服务器的规格

规格名称

vCPU

内存(GB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

GPU

显存(GB)

本地盘

虚拟化类型

p1.2xlarge.8

8

64

5/1.6

35

2

1×P100

1×16

1×800GB NVMe

KVM

p1.4xlarge.8

16

128

8/3.2

70

4

2×P100

2×16

2×800GB NVMe

KVM

p1.8xlarge.8

32

256

10/6.5

140

8

4×P100

4×16

4×800GB NVMe

KVM

P1型弹性云服务器功能如下:
  • 支持NVIDIA Tesla P100 GPU卡,单实例最大支持4张P100显卡,如果需要使用单机8张P100显卡,可以使用裸金属服务器
  • 提供GPU硬件直通能力
  • 单精度能力9.3 TFLOPS,双精度能力4.7 TFLOPS
  • 最大网络带宽10Gb/s
  • 使用16GB HBM2显存,显存带宽732Gb/s
  • 使用800GB的NVMe SSD卡作为本地临时存储
  • 完整的基础能力

    网络自定义,自由划分子网、设置网络访问策略;海量存储,弹性扩容,支持备份与恢复,让数据更加安全;弹性伸缩,快速增加或减少云服务器数量。

  • 灵活选择

    与普通云服务器一样,P1型云服务器可以做到分钟级快速发放。用户可以根据业务规模灵活选择规格,后续将逐步支持1:2、1:4、1:8规格云服务器的创建。

  • 优秀的超算生态

    拥有完善的超算生态环境,用户可以构建灵活弹性、高性能、高性价比的计算平台。大量的HPC应用程序和深度学习框架已经可以运行在P1实例上。

常规支持软件列表

P1型云服务器主要用于计算加速场景,例如深度学习训练、推理、科学计算、分子建模、地震分析等场景。应用软件如果使用到GPU的CUDA并行计算能力,可以使用P1型云服务器。常用的软件支持列表如下:

  • Tensorflow、Caffe、PyTorch、MXNet等深度学习框架
  • RedShift for Autodesk 3dsMax、V-Ray for 3ds Max
  • Agisoft PhotoScan
  • MapD
使用须知
  • P1型云服务器的系统盘大小建议大于40GB。
  • P1型云服务器包含NVMe SSD本地盘,关机后仍然收费,如果停止计费,需删除弹性云服务器。
  • P1型云服务器配置了NVMe SSD本地盘,专为深度学习训练、HPC高性能计算等对存储I/O性能有极高要求的业务场景设计。本地盘与特定规格的云服务器绑定,不可单独购买,不可卸载并挂载到另一台云服务器上使用。
    说明:

    P1型云服务器配置的NVMe SSD本地盘有丢失数据的风险(比如NVMe SSD故障或宿主机故障时),强烈建议您在本地NVMe SSD磁盘中存放临时数据,如需存放重要数据,请做好数据备份。

  • 使用私有镜像创建的P1型云服务器,请确认在制作私有镜像时已安装NVIDIA驱动。如果未安装,需在P1型云服务器创建完成后进行驱动安装,实现计算加速功能。安装操作,请参见安装NVIDIA GPU驱动及CUDA工具包
    说明:

    制作私有镜像的具体操作,请参见《镜像服务用户指南》

  • P1型弹性云服务器不支持规格变更。
  • P1型弹性云服务器不支持自动恢复功能。
  • P1型弹性云服务器当前支持如下版本的操作系统:
    • Debian 8.0 64bit
    • Ubuntu Server 16.04 64bit
    • CentOS 7.3 64bit
    • EulerOS 2.2 64bit
    • Windows Server 2012 R2 Standard 64bit
  • 删除P1型弹性云服务器后,本地NVMe SSD磁盘的数据会被自动清除。

推理加速型Pi1

概述

PI1型弹性云服务器采用专为AI推理打造的NVIDIA Tesla P4 GPU,能够提供超强的实时推理能力。PI1型弹性云服务器借助P4的INT8运算器,能够将推理延时降低15倍。配备硬件解码引擎,能够同时支持35路高清视频流的实时转码与推理。

规格

表7 Pi1型弹性云服务器的规格

规格名称

vCPU

内存(GB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

GPU

显存(GB)

本地盘

虚拟化类型

pi1.2xlarge.4

8

32

5/1.6

40

2

1×P4

1×8GB

-

KVM

pi1.4xlarge.4

16

64

8/3.2

70

4

2×P4

2×8GB

-

KVM

pi1.8xlarge.4

32

128

10/6.5

140

8

4×P4

4×8GB

-

KVM

PI1型弹性云服务器功能如下:
  • 支持NVIDIA Tesla P4 GPU卡,单实例最大支持4张P4 GPU卡
  • 提供GPU硬件直通能力
  • 单GPU单精度计算能力最高5.5 TFLOPS
  • 单GPU INT8计算能力最高22 TOPS
  • 单GPU提供8GB ECC显存,带宽192GB/s
  • GPU内置硬件视频编解码引擎,能够同时进行35路高清视频解码与实时推理

常规支持软件列表

Pi1实例主要用于GPU推理计算场景,例如图片识别、语音识别、自然语言处理等场景。

常用的软件支持列表如下:

  • Tensorflow、Caffe、PyTorch、MXNet等深度学习框架
使用须知
  • 规格为pi1.2xlarge.4、pi1.4xlarge.4、pi1.8xlarge.4的PI1型云服务器,在按需付费的模式下,关机后基础资源(包括vCPU、内存、镜像)不计费,但系统盘仍会收取容量对应的费用。 如有其他绑定的产品,如云硬盘、弹性公网IP、带宽等,按各自产品的计费方法(“包年/包月”或“按需付费”)进行收费,具体请参见产品价格详情

    规格为pi1.2xlarge.4、pi1.4xlarge.4、pi1.8xlarge.4的PI1型云服务器,在按需付费的模式下,关机后会释放资源,下次开机时如果后台资源不足,可能会导致云服务器开机失败。如果您需要长期使用该云服务器,建议保持开机状态或者选择“包年/包月”计费模式。

  • 使用私有镜像创建的Pi1型云服务器,请确认在制作私有镜像时已安装GPU驱动。如果未安装,需在Pi1型云服务器创建完成后进行驱动安装,实现推理加速功能。请参见安装NVIDIA GPU驱动及CUDA工具包
  • Pi1型弹性云服务器当前支持如下版本的操作系统:
    • Ubuntu Server 14.04 64bit
    • Ubuntu Server 16.04 64bit
    • CentOS 7.3 64bit
  • Pi1型弹性云服务器不支持规格变更。
  • Pi1型云服务器,所在物理机发生故障时,云服务器支持自动恢复。
如果您喜欢这篇文档,您还可以:

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

跳转到云社区