更新时间:2025-08-29 GMT+08:00
分享

昇腾云服务6.5.905版本说明

本文档主要介绍昇腾云服务6.5.905版本配套的镜像地址、软件包获取方式和支持的特性能力。

当前版本仅适用于华为公有云。

配套的基础镜像

芯片

镜像地址

获取方式

镜像软件说明

Snt9B

swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_ascend:pytorch_2.5.1-cann_8.1.rc1-py_3.10-hce_2.0.2503-aarch64-snt9b-20250514161205-a9c5055

镜像发布到SWR,从SWR拉取

Region:西南-贵阳一

固件驱动:24.1.0.6(snt9b)/24.1.RC3.5(snt9b23)

CANN:8.1.RC1.B150

容器镜像OS:hce_2.0

PyTorch:pytorch_2.5.1

MindSpore:MindSpore 2.4.0

FrameworkPTAdapter:6.0.RC3

CCE:如果用到CCE,版本要求是CCE Turbo v1.28及以上

snt9b23

swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_ascend:pytorch_2.5.1-cann_8.1.rc1-py_3.10-hce_2.0.2503-aarch64-snt9b23-20250514161205-a9c5055

软件包获取地址

软件包名称

软件包说明

获取地址

AscendCloud-6.5.905-xxx.zip

包含

  1. 三方大模型训练和推理代码包:AscendCloud-LLM
  2. AIGC代码包:AscendCloud-AIGC
  3. 算子依赖包:AscendCloud-OPP
  4. 自动驾驶模型代码包:AscendCloud-ACD

获取路径:Support-E,在此路径中查找下载ModelArts 6.5.905版本。

说明:

如果上述软件获取路径打开后未显示相应的软件信息,说明您没有下载权限,请联系您所在企业的华为方技术支持下载获取。

支持的特性

表1 本版本支持的特性说明

分类

软件包特性说明

参考文档

三方大模型,包名:AscendCloud-LLM

支持如下模型适配PyTorch-NPU的训练(MindSpeed-LLM)

  1. qwen2-0.5b/1.5b/7b/72b
  2. glm4-9b
  3. llama3.1-8b/70b
  4. qwen2.5-0.5b/7b/14b/32b/72b
  5. llama3.2-1b/3b
  6. qwen3-0.6B/1.7B/4B/8B/14B/32B
  7. qwen3-moe-30B-A3B/235B-A22B
  8. deepseek-V3/R1

支持如下模型适配PyTorch-NPU的训练(Llama-Factory)

  1. qwen2-0.5b/1.5b/7b/72b
  2. glm4-9b
  3. llama3.1-8b/70b
  4. qwen2.5-0.5b/7b/14b/32b/72b
  5. llama3.2-1b/3b
  6. qwen3-0.6B/1.7B/4B/8B/14B/32B
  7. qwen3-moe-30B-A3B/235B-A22B
  8. qwen2_vl-2b/7b/72b
  9. qwen2.5-vl-7b/72b
  10. intern2.5-vl-8b/78b
  11. gemma3-27b

支持如下模型适配PyTorch-NPU的训练(VeRL)

1. qwen3-32B

2. qwen2.5-vl-32B

LLM大语言模型训练指导

支持如下模型适配PyTorch-NPU的推理(Ascend-vLLM框架):

  1. DeepSeek-R1-Distill-Qwen-1.5b/7b/8b/14b/32b/70b
  2. GLM4-9b
  3. qwen2-0.5b/7b/14b/72b/57b-a14b
  4. qwen2.5-0.5b/1.5b/3b/7b/14b/32b/72b
  5. qwen3-0.6b/1.7b/4b/8b/14b/32b/30b-a3b/235b-a22b
  6. QWQ-32b
  7. qwen2.5VL-7b/32b/72b
  8. gemma3-27b

Ascend-vllm支持如下推理特性:

  1. 升级至vLLM 0.8.5
  2. 支持多机推理
  3. 支持W8A8/AWQ量化
  4. 部分模型支持Reasoning Outputs
  5. 支持图模式

说明:具体模型支持的特性请参见大模型推理指导文档

LLM大模型推理指导

AIGC,包名:AscendCloud-AIGC

支持如下框架或模型基于PyTorch NPU推理(PyTorch框架):

  1. Stable Diffusion 1.5(Diffusers、ComfyUI)
  2. Stable Diffusion XL(Diffusers、ComfyUI)
  3. Stable Diffusion 3(Diffusers)
  4. Stable Diffusion 3.5(Diffusers、ComfyUI)
  5. Wav2Lip
  6. OpenSora1.2
  7. OpenSoraPlan1.0
  8. Hunyuan-Dit
  9. Qwen-VL
  10. CogVideoX
  11. LLama-VID
  12. MiniCPM-V2.0
  13. CogVideoX1.5 5b
  14. Cogvideo 5b
  15. Deepseek Janus-Pro 1b
  16. Deepseek Janus-Pro 7b
  17. Wan2.1 1.3b
  18. Wan2.1 14b
  19. 自回归模型(VAR/XAR/RandAR/Infinity)

支持如下框架或模型基于PyTorch NPU的训练(PyTorch框架)

  1. Qwen-VL
  2. Stable Diffusion 1.5(Diffusers、Kohya_ss)
  3. Stable Diffusion XL(Diffusers、Kohya_ss)
  4. Wav2Lip
  5. InternVL2
  6. OpenSora1.2
  7. OpenSoraPlan1.0
  8. CogVideoX
  9. LLaVA-NeXT
  10. LLaVA
  11. MiniCPM-V2.0
  12. Llama-3.2-11b
  13. CogVideoX1.5 5b
  14. MiniCPM-V2.6
  15. Bunny-Llama-3-8B-V
  16. Wan2.1 1.3b
  17. Wan2.1 14b

图像生成模型训练推理

视频生成模型训练推理

多模态模型训练推理

内容审核模型训练推理

算子,包名:AscendCloud-OPP

  1. Scatter、Gather算子性能提升,满足MoE训练场景
  2. matmul、swiglu、rope等算子性能提升,支持vllm推理场
  3. 支持random随机数算子,优化FFN算子,满足AIGC等场景
  4. 支持自定义交叉熵融合算子,满足BMTrain框架训练性能
  5. 优化PageAttention算子,满足vllm投机推理场景
  6. 支持CopyBlocks算子,满足vllm框架beam search解码场景
  7. 支持AdvanceStep算子,满足vllm投机推理场景
  8. 多个融合算子支持PTA图模式适配,满足AIGC场景
  9. 算子包支持A3场景,pytorch版本升级至2.5.1

自动驾驶,包名:AscendCloud-ACD

支持如下模型适配PyTorch-NPU的训练:

1. OpenEmma

2. Senna

3. SparseDrive

4. UniAD

5. VAD

自动驾驶模型训练推理

相关文档