基于PyTorch NPU快速部署开源大模型

金山云KS3迁移至华为云OBS教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题： 各云服务商迁移教程

查看更多 →

Baichuan2 baichuan2-13b https://huggingface.co/baichuan-inc/Baichuan2-13B-Chat 操作流程 图1 操作流程图 表2 操作任务流程说明 阶段 任务 说明 准备工作 准备资源 本教程案例是基于ModelArts Stand

查看更多 →

示例：创建DDP分布式训练（PyTorch+NPU） 本文介绍了使用训练作业的 自定义镜像 +自定义启动命令来启动PyTorch DDP on Ascend加速卡训练。 前提条件 需要有Ascend加速卡资源池。 创建训练作业 本案例创建训练作业时，需要配置如下参数。 表1 创建训练作业的配置说明

查看更多 →

co/01-ai/Yi-6B-Chat 14 yi-34b https://huggingface.co/01-ai/Yi-34B-Chat 15 ChatGLMv3 glm3-6b https://huggingface.co/THUDM/chatglm3-6b 16 Baichuan2

查看更多 →

CPU、GPU通用算法开发和训练基础镜像，预置AI引擎TensorFlow2.1 CPU/GPU 是 是 tensorflow1.13-cuda10.0-cudnn7-ubuntu18.04 GPU通用算法开发和训练基础镜像，预置AI引擎TensorFlow1.13.1 GPU 是 是 conda3-ubuntu18

查看更多 →

7-ubuntu_1804-x86_64 不同区域支持的AI引擎有差异，请以实际环境为准。 训练基础镜像详情（PyTorch） 介绍预置的PyTorch镜像详情。 引擎版本：pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18.04-x86_64 引擎版本：pytorch_1.8.0-cuda_10

查看更多 →

-v ${work_dir}:${container_work_dir} \ --name ${container_name} \ $image_name \ /bin/bash 参数说明： --name ${container_name} 容器名称，进入容器

查看更多 →

diffusers_finetune_train.sh # ascendcloud-aigc-poc-sdxl-finetune代码文件夹文件 ├── train_text_to_image_sdxl-0212.py # ascendcloud-aigc-poc-sdxl-finetune代码文件夹文件

查看更多 →

主流开源大模型基于Server适配PyTorch NPU推理指导 主流开源大模型基于Server适配ModelLink PyTorch NPU训练指导 主流开源大模型基于Server适配LlamaFactory PyTorch NPU训练指导 AIGC模型 SDXL&SD1.5 Com

查看更多 →

co/01-ai/Yi-6B-Chat 14 yi-34b https://huggingface.co/01-ai/Yi-34B-Chat 15 ChatGLMv3 glm3-6b https://huggingface.co/THUDM/chatglm3-6b 16 Baichuan2

查看更多 →

百度云BOS迁移至华为云OBS教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题： 各云服务商迁移教程

查看更多 →

镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2.1

查看更多 →

镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2.1

查看更多 →

分类 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911） 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.911） 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.911） 主流开

查看更多 →

LLM开源大模型基于Lite Server适配PyTorch NPU推理指导 LLM开源大模型基于Standard适配PyTorch NPU推理指导 LLM开源大模型基于Lite Cluster适配PyTorch NPU推理指导 AIGC，包名：AscendCloud-AIGC 支持如下框架或模型基于DevServer的PyTorch

查看更多 →

Finetune训练指导（6.3.904） Open-Clip基于DevServer适配PyTorch NPU训练指导 moondream2基于DevServer适配PyTorch NPU推理指导 AIGC工具tailor使用指导

查看更多 →

自动学习 物体检测 基于AI Gallery口罩数据集，使用ModelArts自动学习的物体检测算法，识别图片中的人物是否佩戴口罩。 垃圾分类 自动学习 图像分类 该案例基于华为云AI开发者社区AI Gallery中的数据集资产，让零AI基础的开发者完成“图像分类”的AI模型的训练和部署。

查看更多 →

有没有自带特定应用（比如OpenVPN、PyTorch）的镜像？ 公共镜像是标准镜像，不带有OpenVPN、PyTorch等应用。 如果用户需要使用OpenVPN、PyTorch等应用，需要用户自己搭建相关环境，或者通过云市场搜索相关市场镜像进行安装。 镜像分类请参见镜像类型。 父主题：

查看更多 →

创建PyTorchJob 功能介绍 创建PyTorchJob。 PyTorchJob即PyTorch任务，是基于PyTorch开源框架的kubernetes自定义资源类型，有多种角色可以配置，能够帮助我们更简单地实现PyTorch的训练。 URI POST /apis/kubeflow.org/v

查看更多 →

择训练作业支持的版本，具体支持哪些版本请参考训练作业支持的AI引擎。PyTorch的举例：不要选PyTorch-1.0.0、PyTorch-1.3.0、PyTorch-1.4.0。选择如下图： 图1 选择训练作业支持的AI框架 父主题： PyCharm Toolkit使用

查看更多 →

LLM开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.906） LLM开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906） AIGC，包名：AscendCloud-AIGC 支持如下框架或模型基于DevServer的PyTorch NPU推理： ComfyUI

查看更多 →