基于PyTorch NPU快速部署开源大模型

部署推理服务 非分离部署推理服务 分离部署推理服务 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909）

查看更多 →

在介绍Workflow之前，先了解MLOps的概念。 MLOps(Machine Learning Operation)是“机器学习”（Machine Learning）和“DevOps”（Development and Operations）的组合实践。机器学习开发流程主要可以定义为四个步骤：项目设计、

查看更多 →

orker可以利用本机网络提供传输效率，缩短训练时间。 Volcano批量调度系统：加速AI计算的利器 Volcano是一款构建于Kubernetes之上的增强型高性能计算任务批量处理系统。作为一个面向高性能计算场景的平台，它弥补了Kubernetes在机器学习、深度学习、HPC

查看更多 →

Kubeflow诞生于2017年，Kubeflow项目是基于容器和Kubernetes构建，旨在为数据科学家、机器学习工程师、系统运维人员提供面向机器学习业务的敏捷部署、开发、训练、发布和管理平台。它利用了云原生技术的优势，让用户更快速、方便地部署、使用和管理当前最流行的机器学习软件。 目前Kubeflow 1.0

查看更多 →

便用户快速了解文本内容。 机器翻译：大语言模型可以处理多种语言之间的翻译任务，实现跨语言交流。 当前Fabric提供以下两种方式进行推理： 用公共推理服务进行推理：Fabric提供基于开源大语言模型（Qwen2、GLM4等）的公共推理服务，用户可以在推理端点查看公共端点，选择自己

查看更多 →

当前版本使用llm-compressor工具量化仅支持Deepseek-v2系列模型的W8A8量化。 本章节介绍如何在GPU的机器上使用开源量化工具llm-compressor量化模型权重，然后在NPU的机器上实现推理量化。 具体操作如下： 开始之前，请确保安装了以下库： git clone https://github

查看更多 →

当前版本使用llm-compressor工具量化仅支持Deepseek-v2系列模型的W8A8量化。 本章节介绍如何在GPU的机器上使用开源量化工具llm-compressor量化模型权重，然后在NPU的机器上实现推理量化。 具体操作如下： 开始之前，请确保安装了以下库： git clone https://github

查看更多 →

推理服务测试 推理服务在线测试支持文件、图片、json三种格式。通过部署为在线服务Predictor可以完成在线推理预测。 示例代码 在ModelArts notebook平台，Session鉴权无需输入鉴权参数。其它平台的Session鉴权请参见Session鉴权。 场景：部署在线服务Predictor的推理预测

查看更多 →

clone，确保集群可以访问公网。 Step1 上传权重文件 将权重文件上传到集群节点机器中。权重文件的格式要求为Huggingface格式。开源权重文件获取地址请参见支持的模型列表和权重文件。 如果使用模型训练后的权重文件进行推理，模型训练及训练后的权重文件转换操作可以参考相关文档章节中提供的模型训练文档。

查看更多 →

clone，确保集群可以访问公网。 Step1 上传权重文件 将权重文件上传到集群节点机器中。权重文件的格式要求为Huggingface格式。开源权重文件获取地址请参见支持的模型列表和权重文件。 如果使用模型训练后的权重文件进行推理，模型训练及训练后的权重文件转换操作可以参考相关文档章节中提供的模型训练文档。

查看更多 →

开通推理服务 对于公共推理服务，用户需要先申请开通，开通后才可以使用。开通公共推理服务之后用户会获得一定的免费配额，并在一定的时间内有效，超过将无法使用。如果用户想继续使用，建议部署推理服务使用。 前提条件 已有可正常使用的华为云账号。 已有至少一个正常可用的工作空间。 操作步骤

查看更多 →

用户可以在模型导航栏下查看公共模型信息，可以使用公共模型部署推理服务，但是不允许删除公共模型。 约束与限制 部署推理服务时的通用约束限制如下： 推理服务资源规格最小值为1，最大值为100 部署推理服务的时候选择的推理端点下的推理服务资源最大值不能超过推理端点的最大资源数。 前提条件 已有可正常使用的华为云账号。

查看更多 →

模型管理 模型训练服务统一的模型管理菜单。集成在线VSCode开发环境，支持对模型进行编辑修改后，生成新模型包。同时支持多模型组合编排生成新模型。支持将模型下载至本地、生成SHA256校验码、上架至NAIE服务官网、发布成在线推理服务，进行在线推理、创建联邦学习实例、删除模型。 模型验证

查看更多 →

本节介绍Fabric服务的主要应用场景。 数据工程 高效处理大规模数据，通过并行计算加速数据处理过程，例如数据清洗、转换和聚合。 分布式机器学习 Ray支持分布式训练和调优，可以用于处理大规模数据集和模型，使得模型训练更加高效。 大模型 使用大模型实现智能对话、自动摘要、机器翻译、文本分类、图像生成等任务。

查看更多 →

部署在线服务。 图6 部署在线服务-专属资源池 单击“下一步”，再单击“提交”，开始部署服务，待服务状态显示“正常”服务部署完成。 图7 服务部署完成 Step4 调用在线服务 进入在线服务详情页面，选择“预测”。 如果以vllm接口启动服务，设置请求路径：“/generate”，输入预测代码“{"prompt":

查看更多 →

在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备模型权重文件、推理启动脚本run_vllm.sh及SSL证书。此处以chatglm3-6b为例。

查看更多 →

解释请参见部署在线服务。 图3 部署在线服务-专属资源池 单击“下一步”，再单击“提交”，开始部署服务，待服务状态显示“正常”服务部署完成。 Step4 调用在线服务 进入在线服务详情页面，选择“预测”。 若以vllm接口启动服务，设置请求路径：“/generate”，输入预测代码“{"prompt":

查看更多 →

创建我的推理服务进行推理 创建模型 管理模型 创建推理端点 创建推理服务 使用推理服务进行推理 删除推理服务 删除推理端点 父主题： 大模型推理场景

查看更多 →

com/kubernetes/kubernetes/blob/master/CHANGE LOG /CHANGELOG-1.13.md v1.11到v1.12的变化： https://github.com/kubernetes/kubernetes/blob/master/CHANGELOG/CHANGELOG-1

查看更多 →

learning_rate 学习率 学习率是每一次迭代中梯度向损失函数最优解移动的步长。 weight_decay 权重衰减因子 对模型参数进行正则化的一种因子，可以缓解模型过拟合现象。 warmup_ratio 学习率热启动比例 学习率热启动参数，一开始以较小的学习率去更新参数，然后再使用预设学习率，有效避免模型震荡。

查看更多 →

在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装固件和驱动，或释放被挂载的NPU。 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。 yum install

查看更多 →