基于PyTorch NPU快速部署开源大模型

基于PyTorch NPU快速部署开源大模型

    pytorch教程 更多内容
  • GaussDB应用程序开发教程概述

    程发送查询并且获得查询返回值的库函数。同时也是其他几个 GaussDB 应用接口下面的引擎,如ODBC等依赖的库文件。 基于libpq开发详细教程请参见基于libpq开发。 父主题: 应用程序开发教程

    来自:帮助中心

    查看更多 →

  • PyTorch迁移精度调优

    PyTorch迁移精度调优 引言 精度校验 精度调优总体思路 准备工作 问题复现 Msprobe工具使用指导 父主题: GPU训练业务迁移至昇腾的通用指导

    来自:帮助中心

    查看更多 →

  • 华为云OBS之间迁移教程

    华为云OBS之间迁移教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题: 各云服务商迁移教程

    来自:帮助中心

    查看更多 →

  • 管理中心典型场景教程

    管理中心典型场景教程 新建 DataArts Studio MRS Hive 数据湖 的连接 新建DataArts Studio与DWS数据湖的连接 新建DataArts Studio与MySQL数据库的连接 父主题: 管理中心

    来自:帮助中心

    查看更多 →

  • 各云服务商迁移教程

    各云服务商迁移教程 华为云OBS之间迁移教程 华为云并行文件系统迁移教程 阿里云OSS迁移至华为云OBS教程 腾讯云COS迁移至华为云OBS教程 七牛云迁移至华为云OBS教程 百度云BOS迁移至华为云OBS教程 优刻得US3迁移至华为云OBS教程 金山云KS3迁移至华为云OBS教程 青云QingStor迁移至华为云OBS教程

    来自:帮助中心

    查看更多 →

  • GaussDB应用程序开发教程概述

    程序向GaussDB 服务器 进程发送查询并且获得查询返回值的库函数。同时也是其他几个GaussDB应用接口下面的引擎,如ODBC等依赖的库文件。 基于libpq开发详细教程请参见基于libpq开发。 Psycopg Psycopg是一种用于执行SQL语句的PythonAPI,可以为

    来自:帮助中心

    查看更多 →

  • 训练场景和方案介绍

    com/atelier/pytorch_2_1_ascend:pytorch_2.1.0-cann_8.0.rc3-py_3.9-hce_2.0.2312-aarch64-snt9b-20240824153350-cebb080 cann_8.0.rc3 pytorch_2.1.0 驱动23

    来自:帮助中心

    查看更多 →

  • SD WebUI推理方案概览

    AscendCloud-3rdAIGC-6.3.908-xxx.zip 文件名中的xxx表示具体的时间戳,以包名的实际时间为准。 获取路径:Support-E 说明: 如果上述软件获取路径打开后未显示相应的软件信息,说明您没有下载权限,请联系您所在企业的华为方技术支持下载获取。 镜像版本 本教程中用到基

    来自:帮助中心

    查看更多 →

  • 训练场景和方案介绍

    com/atelier/pytorch_2_1_ascend:pytorch_2.1.0-cann_8.0.rc3-py_3.9-hce_2.0.2312-aarch64-snt9b-20240824153350-cebb080 cann_8.0.rc3 pytorch_2.1.0 驱动23

    来自:帮助中心

    查看更多 →

  • 教程:设置只读逻辑集群并绑定用户

    教程:设置只读逻辑集群并绑定用户 场景介绍 如果在不同时段内业务流量差异非常大,3节点集群又无法满足高峰期的吞吐量要求,但扩容至6节点又存在资源浪费或费用较高问题。用户可通过本章教程再结合弹性增删逻辑集群功能,实现类似于“晚上低峰期3节点,白天6节点,高峰期9节点”的弹性扩展功能。

    来自:帮助中心

    查看更多 →

  • 准备权重

    Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index

    来自:帮助中心

    查看更多 →

  • 准备权重

    Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index

    来自:帮助中心

    查看更多 →

  • 准备权重

    Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index

    来自:帮助中心

    查看更多 →

  • 镜像方案说明

    。 基础镜像地址 本教程中用到的训练的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2

    来自:帮助中心

    查看更多 →

  • 镜像方案说明

    。 基础镜像地址 本教程中用到的训练的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2

    来自:帮助中心

    查看更多 →

  • 教程:新物理集群划分为逻辑集群

    教程:新物理集群划分为逻辑集群 场景介绍 本章节演示一套全新6节点物理集群(无业务数据)划分为2套逻辑集群的操作。如果物理集群已有业务数据,请参见教程:已有数据的物理集群转换逻辑集群操作。 前提条件 参见创建GaussDB(DWS)存算一体集群章节创建6个节点的集群。 划分逻辑集群

    来自:帮助中心

    查看更多 →

  • 准备权重

    Notice.txt ├── pytorch_model-00001-of-00003.bin ├── pytorch_model-00002-of-00003.bin ├── pytorch_model-00003-of-00003.bin ├── pytorch_model.bin.index

    来自:帮助中心

    查看更多 →

  • 镜像方案说明

    。 基础镜像地址 本教程中用到的训练的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2

    来自:帮助中心

    查看更多 →

  • 镜像方案说明

    。 基础镜像地址 本教程中用到的训练的基础镜像地址和配套版本关系如下表所示,请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2.myhuaweicloud.com/atelier/pytorch_2_1_ascend:pytorch_2

    来自:帮助中心

    查看更多 →

  • PyTorch迁移性能调优

    PyTorch迁移性能调优 性能调优总体原则和思路 MA-Advisor和Ascend-Insigh工具使用指导 性能可视化工具与性能分析工具 父主题: GPU训练业务迁移至昇腾的通用指导

    来自:帮助中心

    查看更多 →

  • 分布式训练功能介绍

    当前仅支持PyTorch和MindSpore AI框架,如果MindSpore要进行多机分布式训练调试,则每台机器上都必须有8张卡。 本文档提供的调测代码中涉及到的OBS路径,请用户替换为自己的实际OBS路径。 本文档提供的调测代码是以PyTorch为例编写的,不同的AI框架之间,

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了