版本说明和要求
版本差异说明
本文档支持昇腾云6.5.906及以后版本,最新版本是6.5.910。推荐使用最新版本配套的软件包和镜像。
版本 | 说明 |
|---|---|
6.5.910 | 相较于6.5.908版本,6.5.910有以下新增支持特性:
|
6.5.908 | 相对于6.5.907版本,6.5.908有以下新增支持特性:
|
6.5.907 | 相对于6.5.906版本,6.5.907有以下新增支持特性:
相对于6.5.906版本,6.5.907有以下特性变更不支持:
|
6.5.906 | 相对于6.5.905版本,6.5.906有以下特性变更:
|
训练框架版本
- LlamaFactory框架版本:0.9.3
- MindSpeed-LLM框架版本:2.1.0
- MindSpeed-RL框架版本:2.1.0
- MindSpeed-MM框架版本:2.2.0
- VeRL框架版本:0.5.0.dev
基础镜像版本
本教程中用到的训练基础镜像地址和配套版本关系如下表所示,请提前了解。
镜像用途 | 镜像地址 | 配套版本 |
|---|---|---|
基础镜像Snt9b | 西南-贵阳一: swr.cn-southwest-2.myhuaweicloud.com/ atelier/pytorch_ascend:pytorch_2.5.1-cann_8.2.rc2-py_3.11-hce_2.0.2506-aarch64-snt9b-20250924142716-99ec71c 中国-香港: swr.ap-southeast-1.myhuaweicloud.com/ atelier/pytorch_ascend:pytorch_2.5.1-cann_8.2.rc2-py_3.11-hce_2.0.2506-aarch64-snt9b-20250924142716-99ec71c | 6.5.910 |
基础镜像Snt9b23 | 西南-贵阳一: swr.cn-southwest-2.myhuaweicloud.com/ atelier/pytorch_ascend:pytorch_2.5.1-cann_8.2.rc2-py_3.11-hce_2.0.2506-aarch64-snt9b23-20250924142716-99ec71c 中国-香港: swr.ap-southeast-1.myhuaweicloud.com/ atelier/pytorch_ascend:pytorch_2.5.1-cann_8.2.rc2-py_3.11-hce_2.0.2506-aarch64-snt9b23-20250924142716-99ec71c | 6.5.910 |
机型 | 模型 | 版本 |
|---|---|---|
Snt9b | CANN | 8.2.RC2 |
驱动 | 24.1.0.6 | |
PyTorch | 2.5.1 | |
Snt9b23 | CANN | 8.2.RC2 |
驱动 | 25.2.1 | |
PyTorch | 2.5.1 |
软件包获取
本方案需要使用到的软件配套版本和依赖包获取地址如下表所示。
昇腾云版本 | 软件名称 | 说明 | 下载地址 |
|---|---|---|---|
6.5.910 | AscendCloud-6.5.910-timestamp.zip | 包含了本教程中使用到的训练代码包。 | 1. 获取路径:Support-E。 2. 找到对应的版本:ModelArts 6.5.910 说明: 如果上述软件获取路径打开后未显示相应的软件信息,说明您没有下载权限,请联系您所在企业的华为方技术支持下载获取。 |
软件包结构
|——AscendCloud-LLM
|──llm_train/AscendFactory/ # 模型训练代码包
|──install/ # 各个框架的安装脚本包
|──docker/ # dockerfile文件目录
|──src # 训练运行包
|──ascend_factory/ # 训练运行包
|──open_source/ # 三方包git目录
|──open_source_adaptor/ # ascend适配优化patch包目录
|──install.sh # 初始化环境执行脚本
|──data.tgz # 样例数据压缩包 
