ModelArts最佳实践案例列表

DeepSeek&Qwen3模型基于Lite Server适配NPU的PD分离推理解决方案

推理

介绍DeepSeek R1/V3/V3.1模型基于ModelArts Lite Server推理的整体解决方案，包括PD分离部署过程、日志采集转储、查看监控告警等内容。推理使用Ascend-vLLM框架和昇腾NPU计算资源。

DeepSeek&Qwen3模型基于Lite Cluster适配NPU的PD分离推理解决方案

推理

介绍DeepSeek R1/V3/V3.1模型基于ModelArts Lite Cluster推理的整体解决方案，包括PD分离部署过程、日志采集转储、查看监控告警等内容。推理使用Ascend-vLLM框架和昇腾NPU计算资源。

主流开源大模型基于ModelArts Lite Server适配AscendFactory PyTorch NPU训练指导

预训练、SFT全参微调训练、LoRA微调训练

介绍主流的开源大模型DeepSeek系列、Llama系列、Qwen3、Qwen-VL系列等模型基于ModelArts Lite Server的训练过程，训练使用AscendFactory框架和昇腾NPU计算资源。

主流开源大模型基于Lite Server适配Ascend-vLLM PyTorch NPU推理指导

推理部署、推理性能测试、推理精度测试、推理模型量化

介绍主流的开源大模型Llama系列、Qwen系列、Qwen-VL系列等模型基于ModelArts Lite Server的推理部署过程，推理使用Ascend-vLLM框架和昇腾NPU计算资源。

Bunny-Llama-3-8B-V基于Lite Server适配PyTorch NPU的训练指导

InternVL2基于Lite Server适配PyTorch NPU训练指导（6.3.912）

LLaVA-NeXT基于Lite Server适配PyTorch NPU训练微调指导（6.3.912）

LLaVA模型基于Lite Server适配PyTorch NPU预训练指导（6.3.912）

Llama 3.2-Vision基于Lite Server适配Pytorch NPU训练微调指导（6.3.912）

moondream2基于Lite Server适配PyTorch NPU推理指导

Bunny-Llama-3-8B-V、InternVL2、LLaVA-NeXT、LLaVA、Llama 3.2-Vision、moondream2等模型的训练或推理

介绍常见多模态模型使用PyTorch框架和昇腾NPU计算资源，基于ModelArts Lite Server或者Standard的训练或推理过程。

Diffusers、ComfyUI套件基于ModelArts Lite Server适配PyTorch NPU的推理指导

VAR/XAR/RandAR/Infinity自回归图像生成模型基于Lite Server适配NPU推理指导

DeepSeek Janus-Pro模型基于ModelArts Lite Server适配PyTorch NPU推理指导

SD1.5、SDXL、SD3.5、HUNYUAN模型推理

VAR/XAR/RandAR/Infinity、DeepSeek Janus-Pro模型推理

介绍常见的图像生成模型基于ModelArts Lite Server的推理过程，推理使用昇腾NPU计算资源。

启动推理服务后，可应用于图像生成场景。

Stable Diffusion XL基于ModelArts Notebook的推理指导（6.5.907）

SDXL模型推理

介绍常见的图像生成模型基于ModelArts Standard Notebook的推理过程，推理使用昇腾NPU计算资源。

启动推理服务后，可应用于图像生成场景。

Open-Clip基于Lite Server适配NPU训练指导

Open-Clip模型训练

介绍Open-Clip模型基于ModelArts Lite Server的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。

应用于AIGC和多模态视频编码器。

Wan2.2对应ComfyUI框架基于Lite Server适配NPU推理指导

Wan系列模型推理

介绍Wan系列模型基于ModelArts Lite Server的推理过程，推理使用PyTorch框架和昇腾NPU计算资源。

Wan2.1系列文/图生视频模型基于ModelArts Lite Server适配PyTorch NPU训练指导

Wan2.1系列模型训练

介绍Wan2.1系列模型基于ModelArts Lite Server的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。

训练后的模型可用于推理部署，应用于视频生成场景。

Bert基于Lite Server适配MindSpore Lite推理指导(6.3.910)

Yolov8基于Lite Server适配MindSpore Lite推理指导（6.3.909）

Paraformer基于Lite Server适配PyTorch NPU推理指导（6.3.911）

Bert、Yolov8、Paraformer等内容审核模型推理

案例主要介绍内容审核场景的相关模型如何基于ModelArts Lite Server上的昇腾NPU资源进行模型推理。

ModelArts Standard权限管理

IAM权限配置、权限管理

为子账号配置权限

当一个华为云账号下需创建多个IAM子账号时，可参考此样例，为IAM子账号赋予使用ModelArts所需的权限。避免IAM子账号因权限问题导致使用时出现异常。

将Notebook的Conda环境迁移到SFS磁盘

-

环境迁移

开发环境

本案例介绍如何将Notebook的Conda环境迁移到SFS磁盘上。

使用ModelArts VSCode插件调试训练ResNet50图像分类模型

MindSpore

VS Code Toolkit工具

目标检测

本案例以Ascend Model Zoo为例，介绍如何通过VS Code插件及ModelArts Notebook进行云端数据调试及模型开发。

使用ModelArts Standard自定义算法实现手写数字识别

PyTorch

自定义算法

手写数字识别

使用用户自己的算法，训练得到手写数字识别模型，并部署后进行预测。

第三方推理框架迁移到ModelArts Standard推理自定义引擎

第三方框架

推理部署

-

ModelArts支持第三方的推理框架在ModelArts上部署，本文以TFServing框架、Triton框架为例，介绍如何迁移到推理自定义引擎。