文档首页/
AI开发平台ModelArts/
最佳实践/
LLM大语言模型训练/
LLM大语言模型训练历史版本文档/
主流开源大模型基于ModelArts Standard&Lite Server适配AscendFactory PyTorch NPU训练指导（6.5.902）/
支持的模型列表
更新时间：2025-08-20 GMT+08:00
支持的模型列表
模型列表分为表1 大语言模型列表和表2 多模态模型列表，详细如下。
|
模型参数量 |
是否适配MindSpeed-LLM |
是否适配Llama-Factory |
开源权重文件获取地址 |
|---|---|---|---|
|
llama3.1-8b |
√ |
√ |
https://huggingface.co/meta-llama/Meta-Llama-3.1-8B-Instruct |
|
llama3.1-70b |
√ |
√ |
https://huggingface.co/meta-llama/Meta-Llama-3.1-70B-Instruct |
|
llama3.2-1b |
√ |
√ |
|
|
llama3.2-3b |
√ |
√ |
|
|
qwen2-0.5b |
√ |
√ |
|
|
qwen2-1.5b |
√ |
x |
|
|
qwen2-7b |
√ |
√ |
|
|
qwen2-72b |
√ |
√ |
|
|
qwen2.5-0.5b |
√ |
√ |
|
|
qwen2.5-7b |
√ |
√ |
|
|
qwen2.5-14b |
√ |
√ |
|
|
qwen2.5-32b |
√ |
√ |
|
|
qwen2.5-72b |
√ |
√ |
|
|
glm4-9b |
√ |
√ |
|
|
mixtral-8x7b |
√ |
x |
|
|
DeepSeek-V3 |
√ |
x |
https://huggingface.co/deepseek-ai/DeepSeek-V3-Base/tree/main |
|
DeepSeek-R1 |
√ |
x |
|
模型参数量 |
是否适配MindSpeed-LLM |
是否适配Llama-Factory |
开源权重文件获取地址 |
|---|---|---|---|
|
qwen2_vl-2b |
x |
√ |
|
|
qwen2_vl-7b |
x |
√ |
|
|
qwen2_vl-72b |
x |
√ |
|
|
qwen2_5_vl-7b |
x |
√ |
|
|
qwen2_5_vl-72b |
x |
√ |
下线模型
以下模型不再跟随版本演进，如训练以下模型可参考6.5.901版本训练文档。
- Llama2/3：llama2-7b/13b/70b、llama3-8b/70b
- Qwen/Qwen1.5：qwen-7b/14b/72b、qwen1.5-7b/14b/32b/72b
- Yi：yi-6b、yi-32b
- BaiChuan2：baichuan2-7b、baichuan2-13b
- mistral-7b、falcon-11B、MiniCPM-2B、MiniCPM3-4B、glm3-6b
