ModelArts最佳实践案例列表
在最佳实践文档中，提供了针对多种场景、多种AI引擎的ModelArts案例，方便您通过如下案例快速了解使用ModelArts完成AI开发的流程和操作。
LLM大语言模型训练推理场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
预训练、SFT全参微调训练、LoRA微调训练 |
介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。训练后的模型可用于推理部署，搭建大模型问答助手。 |
|
|
预训练、SFT全参微调训练、LoRA微调训练 |
介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts Standard的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。 训练后的模型可用于推理部署，搭建大模型问答助手。 |
|
|
推理部署、推理性能测试、推理精度测试、推理模型量化 |
介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts DevServer的推理部署过程，推理使用PyTorch框架和昇腾NPU计算资源。 启动推理服务后，可用于搭建大模型问答助手。 |
|
|
推理部署、推理性能测试、推理精度测试、推理模型量化 |
介绍主流的开源大模型Llama系列、Qwen系列、Yi系列、Baichuan系列、ChatGLM系列等基于ModelArts Standard的推理部署过程，推理使用PyTorch框架和昇腾NPU计算资源。 启动推理服务后，可用于搭建大模型问答助手。 |
AIGC模型训练推理场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
SDXL、SD1.5模型训练 |
介绍AIGC模型SDXL、SD1.5基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。训练后的模型可用于推理部署，应用于文生图场景。 |
|
|
SDXL、SD1.5模型推理 |
介绍AIGC模型SDXL、SD1.5基于ModelArts DevServer的推理过程，推理使用PyTorch框架和昇腾NPU计算资源。 启动推理服务后，可应用于文生图场景。 |
|
|
Open-Sora 模型训练 |
介绍Open-Sora-Plan模型基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。 训练后的模型可用于推理部署，应用于文生视频场景。 |
|
|
Qwen-VL模型训练推理 |
介绍Qwen-VL模型基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。 训练后的模型可用于推理部署，应用于大模型对话场景。 |
|
|
LLaVA模型训练推理 |
介绍LLaVA模型基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。 训练后的模型可用于推理部署，应用于大模型对话场景。 |
|
|
Open-Clip模型训练 |
介绍Open-Clip模型基于ModelArts DevServer的训练过程，训练使用PyTorch框架和昇腾NPU计算资源。 应用于AIGC和多模态视频编码器。 |
数字人场景
|
样例 |
场景 |
说明 |
|---|---|---|
|
Wav2Lip，人脸说话视频模型，训练、推理 |
Wav2Lip是一种基于对抗生成网络的由语音驱动的人脸说话视频生成模型。主要应用于数字人场景。不仅可以基于静态图像来输出与目标语音匹配的唇形同步视频，还可以直接将动态的视频进行唇形转换，输出与输入语音匹配的视频，俗称“对口型”。该技术的主要作用就是在将音频与图片、音频与视频进行合成时，口型能够自然。 案例主要介绍如何基于ModelArts DevServer上的昇腾NPU资源进行模型训练推理。 |
ModelArts Standard权限配置
|
样例 |
对应功能 |
场景 |
说明 |
|---|---|---|---|
|
IAM权限配置、权限管理 |
为子账号配置权限 |
当一个华为云账号下需创建多个IAM子账号时，可参考此样例，为IAM子账号赋予使用ModelArts所需的权限。避免IAM子账号因权限问题导致使用时出现异常。 |
ModelArts Standard自动学习案例
ModelArts Standard开发环境案例
|
样例 |
镜像 |
对应功能 |
场景 |
说明 |
|---|---|---|---|---|
|
- |
环境迁移 |
开发环境 |
本案例介绍如何将Notebook的Conda环境迁移到SFS磁盘上。 |
|
|
MindSpore |
PyCharm ToolKit工具 |
目标检测 |
本案例介绍如何在本地进行MindSpore模型开发，并将模型迁移至ModelArts训练。 |
|
|
MindSpore |
VS Code Toolkit工具 |
目标检测 |
本案例以Ascend Model Zoo为例，介绍如何通过VS Code插件及ModelArts Notebook进行云端数据调试及模型开发。 |
ModelArts Standard模型训练案例
|
样例 |
镜像 |
对应功能 |
场景 |
说明 |
|---|---|---|---|---|
|
PyTorch |
自定义算法 |
手写数字识别 |
使用用户自己的算法，训练得到手写数字识别模型，并部署后进行预测。 |
|
|
PyTorch |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是PyTorch，训练使用的资源是CPU或GPU。 |
|
|
MPI |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是MPI，训练使用的资源是CPU或GPU。 |
|
|
Tensorflow |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是Tensorflow，训练使用的资源是GPU。 |
|
|
MindSpore |
镜像制作 自定义镜像训练 |
- |
此案例介绍如何从0到1制作镜像，并使用该镜像在ModelArts平台上进行训练。镜像中使用的AI引擎是MindSpore，训练使用的资源是NPU。 |
ModelArts Standard推理部署
|
样例 |
镜像 |
对应功能 |
场景 |
说明 |
|---|---|---|---|---|
|
- |
在线服务 |
物体检测 |
此案例以“商超商品识别”模型为例，完成从AI Gallery订阅模型，到ModelArts一键部署为在线服务的免费体验过程。 |
|
|
- |
第三方框架 推理部署 |
- |
ModelArts支持第三方的推理框架在ModelArts上部署，本文以TFServing框架、Triton框架为例，介绍如何迁移到推理自定义引擎。 |
第三方案例列表
第三方案例来源为华为云开发者社区“云驻计划”。由于ModelArts产品的持续更新和迭代，第三方案例中的界面和步骤可能因时效性而与最新产品有所差异，仅供学习和参考。
