更新时间:2024-04-15 GMT+08:00

AI加速型

AI加速型云服务器(AI Accelerated Cloud Server,AIACS)是专门为AI业务提供加速服务的云服务器。搭载昇腾系列芯片及软件栈。

AI推理加速型系列:搭载昇腾310芯片,为AI推理业务加速。

AI加速型实例总览

AI推理加速型:AI推理加速增强II型Ai2AI推理加速增强I型Ai1s

适用于AI加速型实例的公共镜像列表

表1 适用于AI加速型实例的公共镜像列表

类别

实例

支持的公共镜像

AI推理加速增强II型

Ai2

Ubuntu Server 18.04 64bit

CentOS 7.8 64bit

CentOS 7.6 64bit

AI推理加速增强I型

Ai1s

Ubuntu Server 18.04 64bit

CentOS 7.6 64bit

AI推理加速增强II型Ai2

概述

AI推理加速增强II型实例Ai2是以昇腾310P(Ascend 310P)为加速核心的AI加速型弹性云服务器。基于Ascend 310P处理器低功耗、高算力特性,实现了能效比的大幅提升,助力AI推理业务的快速普及。通过推出AI推理加速型实例Ai2方便用户快速简捷地使用Ascend 310P处理器强大的处理能力。

AI2加速型云服务器可用于机器视觉,安防监控,智慧园区,智慧城市,智慧交通,智慧零售,互联网音视频,视频编解码等业务场景。

规格

表2 Ai2型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽

最大收发包能力

(万/PPS)

Ascend 310P

Ascend RAM

(GiB)

网卡多队列数

网卡个数上限

虚拟化类型

ai2.xlarge.4

4

16

8/1.6

80

1

24

3

3

KVM

ai2.2xlarge.4

8

32

15/3

150

1

24

4

4

KVM

ai2.4xlarge.4

16

64

20/6

280

1

24

8

8

KVM

ai2.8xlarge.4

32

128

30/12

550

2

48

8

8

KVM

ai2.16xlarge.4

64

256

36/24

800

4

96

16

8

KVM

ai2.24xlarge.4

96

384

40/36

850

6

144

32

8

KVM

功能

Ai2加速型弹性云服务器功能如下:

  • 处理器与内存配比为1:4。
  • 处理器:第三代英特尔® 至强® 可扩展处理器 6348,主频2.6GHz,睿频3.5GHz,或英特尔® 至强® 可扩展处理器 8378A, 主频3.0GHz,睿频3.4GHz。
  • 支持Ascend 310P处理器,每张Atlas 300I Pro加速卡搭载1个Ascend 310P处理器包含8个DaVinci AI 核心和8个自研CPU核。
  • 单卡整数精度(INT8)140TeraOPS。
  • 单卡提供24GiB显存,内存带宽204.8GiB/s。
  • 内置硬件视频编解码引擎,支持高清视频解码器(H.264/265)及JPEG图片编解码。

使用须知

  1. Ai2实例支持如下版本的公共镜像:
    • Ubuntu Server 18.04 64bit
    • CentOS 7.8 64bit
    • CentOS 7.6 64bit
  2. Ai2型弹性云服务器不支持规格变更。
  3. Ai2型云服务器所在物理机发生故障时,云服务器支持自动恢复。

AI推理加速增强I型Ai1s

概述

AI推理加速增强I型实例Ai1s是以昇腾310(Ascend 310)芯片为加速核心的AI加速型弹性云服务器。基于Ascend 310芯片低功耗、高算力特性,实现了能效比的大幅提升,助力AI推理业务的快速普及。通过AI推理加速型实例Ai1s将Ascend 310芯片的计算加速能力在云平台上开放出来,方便用户快速简捷地使用Ascend 310芯片强大的处理能力。

AI推理加速型实例Ai1s基于Atlas 300I加速卡设计,更多详细信息请参考昇腾社区

AI加速型云服务器可用于机器视觉,安防监控,智慧园区,智慧城市,智慧交通,智慧零售,互联网音视频,视频编解码等业务场景。

规格

表3 Ai1s型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽

最大收发包能力

(万/PPS)

Ascend 310

Ascend RAM

(GiB)

网卡多队列数

网卡个数上限

虚拟化类型

ai1s.large.4

2

8

4/1.3

20

1

8

2

2

KVM

ai1s.xlarge.4

4

16

6/2

35

2

16

2

3

KVM

ai1s.2xlarge.4

8

32

10/4

50

4

32

4

4

KVM

ai1s.4xlarge.4

16

64

15/8

100

8

64

8

8

KVM

ai1s.8xlarge.4

32

128

25/15

200

16

128

8

8

KVM

ai1s.6xlarge.4

24

96

25/14

400

4

96

8

8

KVM

ai1s.9xlarge.4

36

144

30/18

550

4

144

16

8

KVM

ai1s.18xlarge.4

72

288

40/36

1000

8

288

32

8

KVM

功能

Ai1s加速型弹性云服务器功能如下:

  • 处理器与内存配比为1:4。
  • 处理器:第二代英特尔® 至强® 可扩展处理器 6278,主频2.6GHz,睿频3.5GHz,或英特尔® 至强® 可扩展处理器 6151,主频3.0GHz,睿频3.4GHz。
  • 支持Ascend 310芯片,每张Atlas 300I加速卡包含4个Ascend 310芯片。
  • 单芯片整数精度(INT8)16TeraOPS。
  • 单芯片提供8GiB显存,内存带宽50GiB/s。
  • 内置硬件视频编解码引擎,支持5路全高清视频解码器(H.264/265)。

使用须知

  1. Ai1s实例支持如下版本的公共镜像:
    • Ubuntu Server 18.04 64bit
    • CentOS 7.6 64bit
  2. Ai1s型弹性云服务器不支持规格变更。
  3. Ai1s型云服务器所在物理机发生故障时,云服务器支持自动恢复。

如何使用AI加速型云服务器

使用AI加速型云服务器的流程如下:

  1. 创建云服务器,详细步骤,请参考详细操作请参考《弹性云服务器用户指南》“步骤一:基础配置”。
    • 在“规格”设置时,选择AI加速型相关规格。
    • 在“镜像”设置时,可以选择“公共镜像”和“私有镜像”。
      • 公共镜像:已经默认安装了CANN 3.1.0的开发套件包,并配置了环境变量,请验证环境的可用性。
      • 私有镜像:需要安装驱动、固件和开发套件,并配置环境变量。详细步骤,请参考昇腾文档中心对应版本的《CANN软件安装指南》。
  2. 远程登录云服务器。

    对于Linux操作系统的云服务器,登录时请以SSH密码方式登录。

  3. 验证环境可用性。

    请参考昇腾文档中心中对应CANN版本《应用开发指南》中的“样例使用指导”,选择一个样例进行编译运行,验证环境的正确性。

    例如,选择“基于Caffe ResNet-50网络实现图片分类(图片解码+缩放+同步推理)”样例进行验证。