ModelArts最佳实践案例列表
在最佳实践文档中,提供了针对多种场景、多种AI引擎的ModelArts案例,方便您通过如下案例快速了解使用ModelArts完成AI开发的流程和操作。
本文档中提供的所有实践案例,仅适用于功能验证、原型测试等场景。鉴于生产环境对高可用、安全合规、可观测性及运维管控的严苛要求,请勿直接将本文档中的案例用于业务生产环境。
LLM大语言模型训练推理场景
| 样例 | 场景 | 说明 |
|---|---|---|
| 推理部署、推理性能测试、推理精度测试、推理模型量化 | 介绍主流的开源大模型Llama系列、Qwen3系列、Qwen-VL系列等模型基于ModelArts的推理部署过程,推理使用Ascend-vLLM框架和昇腾NPU计算资源。 |
图像生成模型训练推理场景
| 样例 | 场景 | 说明 |
|---|---|---|
| SD1.5、SDXL、SD3.5、HUNYUAN模型推理 | 介绍常见的图像生成模型基于ModelArts Lite Server的推理过程,推理使用昇腾NPU计算资源。 启动推理服务后,可应用于图像生成场景。 | |
| SDXL模型推理 | 介绍常见的图像生成模型基于Notebook的推理过程,推理使用昇腾NPU计算资源。 启动推理服务后,可应用于图像生成场景。 |
视频生成模型训练推理场景
| 样例 | 场景 | 说明 |
|---|---|---|
| Wan2.1/Wan2.2/HunyuanVideo/CogVideo系列模型基于ModelArts Lite Server适配NPU推理指导 | Wan系列模型推理 | 介绍Wan系列模型基于ModelArts轻量算力节点的推理过程,推理使用PyTorch框架和昇腾NPU计算资源。 |
ModelArts开发环境案例
| 样例 | 对应功能 | 场景 | 说明 |
|---|---|---|---|
| 环境迁移 | 开发环境 | 本案例介绍如何将Notebook的Conda环境迁移到SFS磁盘上。 |
ModelArts平台模型训练案例
| 样例 | 镜像 | 对应功能 | 场景 | 说明 |
|---|---|---|---|---|
| PyTorch | 自定义算法 | 手写数字识别 | 使用用户自己的算法,训练得到手写数字识别模型,并部署后进行预测。 |
ModelArt平台推理部署
| 样例 | 场景 | 说明 |
|---|---|---|
| 第三方框架 推理部署 | ModelArts支持第三方的推理框架在ModelArts上部署,本文以TFServing框架、Triton框架为例,介绍如何迁移到推理自定义引擎。 |