训练中的权重转换说明 以 llama2-13b 举例，运行 0_pl_pretrain_13b.sh 脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换，则直接执行预训练任务。若未进行权重转换，则会自动执行 scripts/llama2/2_convert_mg_hf

查看更多 →

SFT全参微调权重转换 增量训练前需将HuggingFace格式权重转换为Megatron格式后再进行SFT全参微调。 本章节主要介绍如何将HuggingFace权重转换为Megatron格式。此处的HuggingFace权重文件和转换操作结果同时适用于SFT全参微调和LoRA微调训练。

查看更多 →

SFT全参微调权重转换 支持HuggingFace格式权重转换为Megatron格式后再进行SFT全参微调。本章节主要介绍如何将HuggingFace权重转换为Megatron格式。此处的HuggingFace权重文件和转换操作结果同时适用于SFT全参微调和LoRA微调训练。 HuggingFace权重转换操作

查看更多 →

训练中的权重转换说明 以 llama2-13b 举例，运行 0_pl_pretrain_13b.sh 脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换，则直接执行预训练任务。若未进行权重转换，则会自动执行 scripts/llama2/2_convert_mg_hf

查看更多 →

ELB后端 服务器 权重检查 规则详情 表1 规则详情 参数 说明 规则名称 elb-members-weight-check 规则展示名 ELB后端服务器权重检查 规则描述 后端服务器的权重为0，且其所属的后端服务器组的负载均衡算法不为“SOURCE_IP”时，视为“不合规”。 标签

查看更多 →

Step2 权重格式转换 AutoAWQ量化完成后，使用int32对int4的权重进行打包。昇腾上使用int8对权重进行打包，需要进行权重转换。 进入vllm代码目录下执行以下脚本： 执行时间预计10分钟。执行完成后会将权重路径下的原始权重替换成转换后的权重。如需保留之前权重格式，请在转换前备份。

查看更多 →

和辅助弹性网卡作为后端服务器。 约束与限制 服务器组类型需为混合类型，IP类型服务器组不支持直接添加 云服务器 和辅助弹性网卡。 仅支持添加与后端服务器组同VPC的E CS 实例、BMS实例和辅助弹性网卡。 独享型弹性负载均衡对裸金属服务器（BMS）的规格有兼容性要求，部分存量规格实例无

查看更多 →

ECS.ExtendParam 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 CB_CSBS_BACKUP 否 string CB CSBS BACKUP 取值说明：用户自定义 使用建议：无 imageproductid 否 string 镜像产品ID 取值说明：用户自定义

查看更多 →

ECS.NICS 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 subnetId 是 HuaweiCloud.VPC.Subnet.Id 待创建云服务器的网卡信息。 取值说明：需要指定云服务器所属虚拟私有云下已创建的子网（subnet）的ID，或通过连线VPC.Subnet来自动生成

查看更多 →

批量ECS操作 ECS操作为用户提供了管理ECS实例的能力，支持进行批量开机、关机、重启、切换操作系统、重装操作系统等操作。 批量开机 批量关机 批量重启 重装操作系统 切换操作系统 父主题： 资源运维

查看更多 →

登录Windows ECS Windows ECS登录方式概述 通过控制台VNC登录Windows ECS 通过RDP文件登录Windows ECS 通过本地Windows主机登录Windows ECS 通过本地Linux主机登录Windows ECS 通过本地macOS主机登录Windows

查看更多 →

重置ECS密码 密码使用场景介绍 在控制台重置ECS密码 父主题： 密码和密钥对管理

查看更多 →

部署到ECS 部署流程 部署验证 父主题： 部署插件能力

查看更多 →

ECS.SecurityGroup 字段说明 表1 字段说明 属性 是否必选 参数类型 描述 id 是 HuaweiCloud.VPC.SecurityGroup.Id 云服务器对应的安全组ID，会对创建云服务器中配置的网卡生效 取值说明：指定已有安全组的ID 取值约束：满足UUID规则，最大64位

查看更多 →

启动ECS实例 使用启动ECS实例卡片可以创建任务，用来启动一个或多个ECS实例。 创建启动ECS实例任务 登录AOM 2.0控制台。 在左侧导航栏单击“自动化运维（日落）”，即可进入“自动化运维”界面。 在左侧导航栏中选择“服务场景”，在服务场景页面单击“启动ECS实例”卡片，

查看更多 →

关闭ECS实例 使用关闭ECS实例卡片可以创建任务，用来关闭一个或多个ECS实例。 创建关闭ECS实例任务 登录AOM 2.0控制台。 在左侧导航栏单击“自动化运维（日落）”，即可进入“自动化运维”界面。 在左侧导航栏中选择“服务场景”，在服务场景页面单击“关闭ECS实例”卡片，

查看更多 →

登录Linux ECS Linux ECS登录方式概述 通过CloudShell登录Linux ECS 通过VNC登录Linux ECS 通过SSH密钥方式登录Linux ECS 通过SSH密码方式登录Linux ECS 通过macOS主机登录Linux ECS 通过移动设备登录Linux

查看更多 →

ECS磁盘概述 什么是云硬盘 云硬盘（Elastic Volume Service，EVS）可以为 弹性云服务器 提供高可靠、高性能、规格丰富并且可弹性扩展的块存储服务，满足不同场景的业务需求，适用于分布式文件系统、开发测试、 数据仓库 以及高性能计算等场景。 云硬盘的类型 不同类型云硬

查看更多 →

ECS实例概述 实例概述 实例即弹性云服务器，是由CPU、内存、操作系统、云硬盘组成的基础计算组件。 弹性云服务器创建成功后，您就可以像使用自己的本地PC或物理服务器一样，在云上使用弹性云服务器，打造一个高效、可靠、安全的计算环境。弹性云服务器的开通是自助完成的，您只需要指定CP

查看更多 →

安全，请在授权重部署前进行本地盘数据备份。 详细内容，请参见本地盘数据备份。 对于包含本地盘的实例，授权重部署前需要对本地盘进行预处理操作，防止重部署后启动云服务器进入Emergency Mode（紧急模式）。 请根据ECS的实例类型，选择授权重部署操作指导： 授权重部署（仅包含云硬盘的实例）

查看更多 →

DDoS高防支持权重回源吗？ DDoS高防按照轮询机制回源，目前不支持按权重回源。您可以将高防回源到ELB公网IP，然后在ELB上使用按权重回源给ECS。 父主题： 产品咨询

查看更多 →