|──llm_inference # 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

进入到${workdir}目录下，如：/home/ma-user/ws，创建tokenizers文件目录将权重和词表文件放置此处，以Llama2-70B为例。 cd /home/ma-user/ws mkdir -p tokenizers/Llama2-70B 多机情况下，只有在rank_0节点进行数据预处理，转换权

查看更多 →

志目录 上传代码和权重文件到工作环境 使用root用户以SSH的方式登录DevServer。 将AscendCloud代码包AscendCloud-xxx-xxx.zip上传到${workdir}目录下并解压缩，如：/home/ma-user/ws目录下，以下都以/h

查看更多 →

|──llm_inference # 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

启动命令行封装脚本，在install.sh里面自动构建 |──llm_inference # 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将AscendSpeed代码包AscendCloud-LLM-xxx.zi

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

all.sh文件。具体为删除install.sh的第43行 "git cherrypick 171ba0b3"。该问题会导致代码安装失败，会在后续版本修复。 代码上传至OBS 将AscendSpeed代码包AscendCloud-3rdLLM-905-xxx.zip在本地解压缩后

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的vLLM 0.3.2推理部署代码和推理评测代码。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 AscendCloud-OPP-6.3.905-xxx

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明 本教程需要使用到的AscendCloud-6.3

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E，在此路径中查找下载ModelArts 6.3.910 版本。 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限

查看更多 →

进入到${workdir}目录下，如：/home/ma-user/ws，创建tokenizers文件目录将权重和词表文件放置此处，以Llama2-70B为例。 cd /home/ma-user/ws mkdir -p tokenizers/Llama2-70B 多机情况下，只有在rank_0节点进行数据预处理，转换权

查看更多 →

enable_show_standby_name 参数说明：设置是否开启显示区分同一分片主备机名字的功能，该名字区分主备节点。开启该功能后在同一分片的不同节点上查询dbe_perf.node_name，返回不同的名字。该参数可在PDB级别设置。 参数类型：布尔型 参数单位：无 取值范围： on：打开视图区分主备机名字功能。

查看更多 →

参数说明：设置是否开启显示区分同一分片主备机名字的功能，该名字区分主备节点。在主备DN上设置该参数，查询性能视图，视图中的node_name可以区分主备机，开启该功能后在同一分片的不同节点上查询dbe_perf.node_name，返回不同的名字。 参数类型：布尔型 参数单位：无

查看更多 →

提交代码到代码仓库 开发在本地完成业务代码和IaC脚本后，需要提交代码文件至代码仓库。 前提条件 开发业务代码和编写IaC脚本已完成。 已创建代码仓库。 需要具备开发人员角色权限，权限申请方法请参见申请权限。具体角色权限说明请参考用户角色和权限说明。 操作入口 在开发中心首页下方

查看更多 →

默认值：100000 asp_sample_interval 参数说明：每次采样的间隔。 该参数属于SIGHUP类型参数，请参考表1中对应设置方法进行设置。 取值范围：整型，1~10(秒)。 默认值：1s asp_flush_rate 参数说明：当内存中样本个数达到asp_sample_

查看更多 →

Integer 点赞数量。 content text 评论内容。 extollmentUsers String json格式的字符串，表示点赞用户记录。取值包括如下： 1：点赞。 -1：点赞后取消点赞。 isExtollmented Integer 当前用户是否对该条评论点赞，取值包括：

查看更多 →

从DEW获取加密凭据。 ASP.NET Core应用部署到CAE CAE源码部署支持Docker运行时，您可以自行配置Dockerfile文件，在Dockerfile中安装构建环境，定义构建命令，以此支持更多编程语言的项目在CAE部署。 本章节以以ASP.NET Core应用为例，介绍如何将ASP

查看更多 →

%S.log" asp_retention_days 参数说明：当ASP样本写到系统表时，该参数表示保留的最大天数。 该参数属于SIGHUP类型参数，请参考表1中对应设置方法进行设置。 取值范围：整型，1~7。 默认值：2 asp_sample_interval 参数说明：每次采样的间隔。

查看更多 →

默认值：100000 asp_sample_interval 参数说明：每次采样的间隔。 该参数属于SIGHUP类型参数，请参考表1中对应设置方法进行设置。 取值范围：整型，1~10(秒)。 默认值：1s asp_flush_rate 参数说明：当内存中样本个数达到asp_sample_

查看更多 →

申请创建云工作站3 图8 申请创建云工作站4 连接进入云工作站 桌面申请成功后，单击“连接”操作按钮，进入赞奇超高清云工作站桌面； 图9 连接进入云工作站 安装软件 进入赞奇工作站云桌面，内置赞奇超高清云工作站软件中心，可安装软件（每次进入桌面后，都会自动打开软件中心）。 图10 安装软件1

查看更多 →

favorite_state Integer 点赞状态： 1：点赞 0：未点赞 maintainers Array of strings 模板相关联的所有维护人账号名称。 platform_source Integer 平台来源： 0：codelabs 1：devstar properties Object

查看更多 →