AI加速型
AI加速型云服务器(AI Accelerated Cloud Server,AIACS)是专门为AI业务提供加速服务的云服务器。搭载昇腾系列芯片及软件栈。
AI推理加速型系列:搭载昇腾310芯片,为AI推理业务加速。
AI加速型实例总览
AI推理加速型:AI推理加速增强II型Ai2、AI推理加速增强I型Ai1s
适用于AI加速型实例的公共镜像列表
类别 |
实例 |
支持的公共镜像 |
---|---|---|
AI推理加速增强II型 |
Ai2 |
Ubuntu Server 18.04 64bit CentOS 7.8 64bit CentOS 7.6 64bit |
AI推理加速增强I型 |
Ai1s |
Ubuntu Server 18.04 64bit CentOS 7.6 64bit |
AI推理加速增强II型Ai2
概述
AI推理加速增强II型实例Ai2是以昇腾310P(Ascend 310P)为加速核心的AI加速型弹性云服务器。基于Ascend 310P处理器低功耗、高算力特性,实现了能效比的大幅提升,助力AI推理业务的快速普及。通过推出AI推理加速型实例Ai2方便用户快速简捷地使用Ascend 310P处理器强大的处理能力。
AI2加速型云服务器可用于机器视觉,安防监控,智慧园区,智慧城市,智慧交通,智慧零售,互联网音视频,视频编解码等业务场景。
规格
规格名称 |
vCPU |
内存 (GiB) |
最大带宽/基准带宽 |
最大收发包能力 (万/PPS) |
Ascend 310P |
Ascend RAM (GiB) |
网卡多队列数 |
网卡个数上限 |
虚拟化类型 |
---|---|---|---|---|---|---|---|---|---|
ai2.xlarge.4 |
4 |
16 |
8/1.6 |
80 |
1 |
24 |
3 |
3 |
KVM |
ai2.2xlarge.4 |
8 |
32 |
15/3 |
150 |
1 |
24 |
4 |
4 |
KVM |
ai2.4xlarge.4 |
16 |
64 |
20/6 |
280 |
1 |
24 |
8 |
8 |
KVM |
ai2.8xlarge.4 |
32 |
128 |
30/12 |
550 |
2 |
48 |
8 |
8 |
KVM |
ai2.16xlarge.4 |
64 |
256 |
36/24 |
800 |
4 |
96 |
16 |
8 |
KVM |
ai2.24xlarge.4 |
96 |
384 |
40/36 |
850 |
6 |
144 |
32 |
8 |
KVM |
功能
Ai2加速型弹性云服务器功能如下:
- 处理器与内存配比为1:4。
- 处理器:第三代英特尔® 至强® 可扩展处理器 6348,主频2.6GHz,睿频3.5GHz,或英特尔® 至强® 可扩展处理器 8378A, 主频3.0GHz,睿频3.4GHz。
- 支持Ascend 310P处理器,每张Atlas 300I Pro加速卡搭载1个Ascend 310P处理器包含8个DaVinci AI 核心和8个自研CPU核。
- 单卡整数精度(INT8)140TeraOPS。
- 单卡提供24GiB显存,内存带宽204.8GiB/s。
- 内置硬件视频编解码引擎,支持高清视频解码器(H.264/265)及JPEG图片编解码。
使用须知
- Ai2实例支持如下版本的公共镜像:
- Ubuntu Server 18.04 64bit
- CentOS 7.8 64bit
- CentOS 7.6 64bit
- Ai2型弹性云服务器不支持规格变更。
- Ai2型云服务器所在物理机发生故障时,云服务器支持自动恢复。
AI推理加速增强I型Ai1s
概述
AI推理加速增强I型实例Ai1s是以昇腾310(Ascend 310)芯片为加速核心的AI加速型弹性云服务器。基于Ascend 310芯片低功耗、高算力特性,实现了能效比的大幅提升,助力AI推理业务的快速普及。通过AI推理加速型实例Ai1s将Ascend 310芯片的计算加速能力在云平台上开放出来,方便用户快速简捷地使用Ascend 310芯片强大的处理能力。
AI推理加速型实例Ai1s基于Atlas 300I加速卡设计,更多详细信息请参考昇腾社区。
AI加速型云服务器可用于机器视觉,安防监控,智慧园区,智慧城市,智慧交通,智慧零售,互联网音视频,视频编解码等业务场景。
规格
规格名称 |
vCPU |
内存 (GiB) |
最大带宽/基准带宽 |
最大收发包能力 (万/PPS) |
Ascend 310 |
Ascend RAM (GiB) |
网卡多队列数 |
网卡个数上限 |
虚拟化类型 |
---|---|---|---|---|---|---|---|---|---|
ai1s.large.4 |
2 |
8 |
4/1.3 |
20 |
1 |
8 |
2 |
2 |
KVM |
ai1s.xlarge.4 |
4 |
16 |
6/2 |
35 |
2 |
16 |
2 |
3 |
KVM |
ai1s.2xlarge.4 |
8 |
32 |
10/4 |
50 |
4 |
32 |
4 |
4 |
KVM |
ai1s.4xlarge.4 |
16 |
64 |
15/8 |
100 |
8 |
64 |
8 |
8 |
KVM |
ai1s.8xlarge.4 |
32 |
128 |
25/15 |
200 |
16 |
128 |
8 |
8 |
KVM |
ai1s.6xlarge.4 |
24 |
96 |
25/14 |
400 |
4 |
96 |
8 |
8 |
KVM |
ai1s.9xlarge.4 |
36 |
144 |
30/18 |
550 |
4 |
144 |
16 |
8 |
KVM |
ai1s.18xlarge.4 |
72 |
288 |
40/36 |
1000 |
8 |
288 |
32 |
8 |
KVM |
功能
Ai1s加速型弹性云服务器功能如下:
- 处理器与内存配比为1:4。
- 处理器:第二代英特尔® 至强® 可扩展处理器 6278,主频2.6GHz,睿频3.5GHz,或英特尔® 至强® 可扩展处理器 6151,主频3.0GHz,睿频3.4GHz。
- 支持Ascend 310芯片,每张Atlas 300I加速卡包含4个Ascend 310芯片。
- 单芯片整数精度(INT8)16TeraOPS。
- 单芯片提供8GiB显存,内存带宽50GiB/s。
- 内置硬件视频编解码引擎,支持5路全高清视频解码器(H.264/265)。
使用须知
- Ai1s实例支持如下版本的公共镜像:
- Ubuntu Server 18.04 64bit
- CentOS 7.6 64bit
- Ai1s型弹性云服务器不支持规格变更。
- Ai1s型云服务器所在物理机发生故障时,云服务器支持自动恢复。
如何使用AI加速型云服务器
使用AI加速型云服务器的流程如下:
- 创建云服务器,详细步骤,请参考详细操作请参考《弹性云服务器用户指南》“步骤一:基础配置”。
- 在“规格”设置时,选择AI加速型相关规格。
- 在“镜像”设置时,可以选择“公共镜像”和“私有镜像”。
- 公共镜像:已经默认安装了CANN 3.1.0的开发套件包,并配置了环境变量,请验证环境的可用性。
- 私有镜像:需要安装驱动、固件和开发套件,并配置环境变量。详细步骤,请参考昇腾文档中心对应版本的《CANN软件安装指南》。
- 远程登录云服务器。
- 验证环境可用性。
请参考昇腾文档中心中对应CANN版本《应用开发指南》中的“样例使用指导”,选择一个样例进行编译运行,验证环境的正确性。
例如,选择“基于Caffe ResNet-50网络实现图片分类(图片解码+缩放+同步推理)”样例进行验证。