准备环境 使用obsutil前您需要执行注册云服务账号、开通OBS服务、创建IAM用户以及获取访问密钥（AK和SK）等环境准备操作。为确保账号及资源的安全性，不建议使用注册账号直接访问OBS。建议通过统一身份认证服务（Identity and Access Management，

查看更多 →

资源准备 在集成前，请您完成以下资源准备： 您已经向云客服申请了租户信息，系统运维管理员已经为您添加了租户信息，并将如下信息提供给您： 表1 参数信息 参数名 说明 租间ID 创建租间（即您的云客服）成功后，系统生成的租间ID。 您也可以登录您的租间后，选择“配置中心 > 系统管理

查看更多 →

硬件准备 首先需要准备一台Linux系统的物理 服务器 作为镜像制作服务器（即宿主机），以及一台用于登录宿主机的本地Windows跳板机（物理服务器或虚拟机）。 制作x86镜像选用x86服务器，制作ARM镜像选用ARM服务器。推荐宿主机ISO镜像为： x86：CentOS 7.x ARM：Ubuntu

查看更多 →

开发准备 获取API的调用信息 获取API的请求信息 旧版界面：在ROMA Connect实例控制台选择“服务集成 APIC > API管理”，在“API列表”页签中可获取API的“ 域名 ”、“请求方法”和“请求路径”。单击API的名称进入API详情页面，在“调用信息”页签下，获取API的“请求协议”和“入参定义”。

查看更多 →

开发准备 获取签名密钥信息 旧版界面：登录ROMA Connect实例控制台，在“服务集成 APIC > API管理”的“签名密钥”页签中，单击API所绑定签名密钥的名称进入签名密钥详情页面，获取签名密钥的Key和Secret。 新版界面：登录ROMA Connect实例控制台，在“服务集成

查看更多 →

资源准备 软件与工具 License 创建VPC SAP HANA系统的所有服务器都在同一个VPC中，需要为SAP HANA申请VPC，并指定VPC中的子网网段。 申请子网并设置安全组 为了使SAP HANA系统中，各服务器能正常通信，需要为 云服务器 申请子网，并设置合适的安全组信息。

查看更多 →

准备资源 概述 ROMA Site协同版实例目前仅支持自建站点，企业自建边缘节点，使用客户自有机房的虚拟机。 在创建自建站点类型ROMA Site实例前，需要准备虚拟机资源、安装Docker、安装Haveged、配置NTP时间同步、挂载磁盘，以及检查虚拟机与ROMA Site、I

查看更多 →

准备环境 iDME环境 注册云服务账号。 使用工业数字模型驱动引擎（Industrial Digital Model Engine，简称iDME）之前必须要有一个云服务账号，具体操作请参见 注册华为账号 并开通华为云。 实名认证。 具体操作请参见实名认证。 开通iDME服务。 使用i

查看更多 →

将AscendSpeed代码包AscendCloud-LLM-xxx.zip在本地解压缩后，将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。 <bucket_name> |──llm_train

查看更多 →

准备资源 创建专属资源池 本文档中的模型运行环境是ModelArts Standard，用户需要购买专属资源池，具体步骤请参考创建资源池。 资源规格要求： 计算规格：用户可参考表2。 硬盘空间：至少200GB。 昇腾资源规格： Ascend: 1*ascend-snt9b表示昇腾单卡。

查看更多 →

准备权重 获取对应模型的权重文件，获取链接参考表1。 在创建OBS桶创建的桶下创建文件夹用以存放权重和词表文件，例如在桶standard-llama2-13b中创建文件夹llama2-13B-chat-hf。 参考文档利用OBS-Browser-Plus工具将步骤1下载的权重文件

查看更多 →

准备镜像 镜像方案说明 E CS 获取和上传基础镜像 使用基础镜像 ECS中构建新镜像 Notebook中构建新镜像 父主题： 准备工作

查看更多 →

准备镜像 准备大模型推理适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置Standard物理机环境操作。 镜像版本 本教程中用到基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础容器镜像地址 镜像用途 镜像地址 配套版本 基础镜像 swr.cn-southwest-2

查看更多 →

环境准备 迁移环境简介 ModelArts开发环境针对推理昇腾迁移的场景提供了云上可以直接访问的开发环境，具有如下优点： 利用云服务的资源使用便利性，可以直接使用到不同规格的昇腾设备。 通过指定对应的运行镜像，可以直接使用预置的、在迁移过程中所需的工具集，且已经适配到最新的版本可以直接使用。

查看更多 →

准备环境 本文档中的模型运行环境是ModelArts Lite的DevServer。请参考本文档要求准备资源环境。 资源规格要求 计算规格：对于Llama2-7B和Llama2-13B单机训练需要使用单机8卡，多机训练需要使用2机16卡。对于Llama2-70B至少需要4机32卡

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取数据及代码 表1 准备代码 代码包名称 代码说明 下载地址 AscendCloud-3rdLLM-6.3.904-xxx.zip 说明： 包名中的xxx表示具体的时间戳，以包名的实际时间为准。 包含了本教程中使

查看更多 →

准备数据 本教程使用到的训练数据集是Alpaca数据集。您也可以自行准备数据集。 Alpaca数据 本教程使用到的训练数据集是Alpaca数据集。Alpaca是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型

查看更多 →

准备环境 本文档中的模型运行环境是ModelArts Lite的Cluster或DevServer。请参考本文档要求准备资源环境。 资源规格要求 计算规格：对于Qwen-7B和Qwen-14B单机训练需要使用单机8卡，多机训练需要使用2机16卡。对于Qwen-72B至少需要5机4

查看更多 →

准备代码 本教程中用到的代码和权重文件如下表所示，请提前准备，并按要求在容器中创建工作目录。 获取代码和权重文件 表1 准备代码 代码包名称 代码说明 下载地址 AscendCloud-3rdLLM-6.3.904-xxx.zip 说明： 软件包名称中的xxx表示时间戳。 包含了

查看更多 →

准备数据 本教程使用到的训练数据集是Alpaca数据集。您也可以自行准备数据集。 Alpaca数据 本教程使用到的训练数据集是Alpaca数据集。Alpaca是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型

查看更多 →

准备镜像 准备训练模型适用的容器镜像，包括获取镜像地址，了解镜像中包含的各类固件版本，配置物理机环境操作。 镜像地址 本教程中用到的基础镜像地址和配套版本关系如下表所示，请提前了解。 表1 基础镜像地址 镜像用途 镜像地址 基础镜像（训练和推理通用） 西南-贵阳一：swr.cn-southwest-2

查看更多 →